AI 안전 지킴이가 공식 출범했어요. 과학기술정보통신부와 인공지능안전연구소는 12일 서울 여의도 글래드 호텔에서 발대식을 열었어요.
국민이 일상에서 AI를 쓰다 마주친 오류와 위험 사례를 직접 찾아내고, 이를 상시로 제보하는 국민 모니터링단이에요.
AI 안전 지킴이, 왜 만들었나요
시작은 지난해 12월부터 30여 일간 진행한 ‘정보 오류 없는 찐 AI 챌린지’ 캠페인이었어요.
정책브리핑에 따르면 캠페인 기간에 총 625건이 접수됐고, 이 중 464건이 유효한 오류 사례로 확인됐어요. AI 안전과 신뢰에 대한 국민 관심이 그만큼 높았던 거죠.
정부는 한시적인 캠페인으로 끝내지 않고, 국민이 늘 AI 오류를 찾아 제보할 수 있는 체계가 필요하다고 판단했어요. 그래서 상설 모니터링단을 꾸리게 됐어요.
80명 누가 뽑혔나…10대부터 60대 이상까지
AI 안전 지킴이는 지난 8월과 9월 두 차례 공개 모집에 지원한 138명 가운데 최종 선발된 80명으로 꾸려졌어요.
10대 고등학생부터 60대 이상까지 연령층이 넓어요. 직장인, 가사종사자, 프리랜서, 학생 등 직업도 다양해요.
활동 기간은 내년 8월까지 약 1년이에요. 이 기간 동안 일상에서 AI 오류와 위험 사례를 찾아 제보하게 돼요.
| 구분 | 내용 |
|---|---|
| 운영 기관 | 과학기술정보통신부, 인공지능안전연구소 |
| 구성 인원 | 80명 (지원자 138명 중 선발) |
| 참여 연령 | 10대 고등학생 ~ 60대 이상 |
| 활동 기간 | 내년 8월까지 약 1년 |
| 주요 활동 | AI 오류·위험 사례 발굴 및 제보 |
제보한 AI 오류는 어디에 쓰이나요
지킴이가 제보한 사례는 바로 확정되지 않아요. 정확성, 위험도, 재현 가능성, 활용 가능성을 따지는 유효성 검증을 거쳐요.
확정된 사례는 AI 안전성 평가와 위험 연구의 기초 자료로 활용될 예정이에요.
과기정통부와 안전연구소는 관련 기업에도 사례를 공유하면서 AI 기업과 꾸준히 소통할 계획이에요. 실제 서비스 개선으로 이어질 수 있는 구조인 셈이에요.
발대식 현장과 정부 당부
이날 발대식에는 엄열 과기정통부 인공지능정책실장, 김명주 인공지능안전연구소장, 지킴이 등 50여 명이 참석했어요.
위촉장 수여, 운영계획 안내, 대표 지킴이 소감 발표가 이어졌어요. 행사 뒤에는 오류 사례 발굴 방법과 제보 기준을 다루는 교육도 진행됐어요.
엄열 실장은 “AI가 남녀노소 누구나 사용하는 우리의 일상이 된 만큼 이를 안전하게 사용할 수 있는 환경은 우리 모두가 함께 만들어 가야 한다”고 말했어요.
이어 “AI 안전 지킴이가 국민의 눈높이에서 찾아낸 오류 하나하나가 모여 더욱 안전한 AI를 만드는 데 소중한 밑거름이 될 것”이라고 덧붙였어요.
AI 안전 지킴이는 이번 교육을 마치고 본격적인 모니터링 활동에 들어가요. 활동은 내년 8월까지 이어지고, 문의는 과기정통부 인공지능안전신뢰정책과(044-202-6295)로 하면 돼요.
답글 남기기