연합뉴스 본문 바로가기 메뉴 바로가기

연합뉴스 최신기사
뉴스 검색어 입력 양식

성희롱·혐오논란에 3주만에 멈춘 '이루다'…AI윤리 숙제 남기다

송고시간2021-01-11 23:38

beta

인공지능(AI) 챗봇 '이루다'가 자연스러운 대화로 출시 직후 주목받았으나, 이내 혐오 발언이 발견되고 개인정보 유출 논란까지 불거지면서 20일 만에 서비스를 중단했다.

전문가들은 이루다가 결국 '마이크로소프트 테이(Tay)' 같은 해외 사례의 전철을 밟았다면서, 우리 사회 전반이 'AI 윤리'에 관한 논의를 시작할 때라고 입을 모았다.

이루다 개발사인 스타트업 스캐터랩은 11일 늦은 오후 보도자료를 내 "(이루다가) 특정 소수집단에 차별적 발언을 한 것 등에 진심으로 사과드린다"며 "서비스를 잠정 중단하고, 차별·혐오 발언이 발견되지 않도록 개선하겠다"고 발표했다.

요약 정보 인공지능이 자동으로 줄인 '세 줄 요약' 기술을 사용합니다. 전체 내용을 이해하기 위해서는 기사 본문과 함께 읽어야 합니다. 제공 = 연합뉴스&줌인터넷®

이용자 75만명 모이자 악용 생기고 이루다도 소수자 혐오 발언

전문가들 "알고리즘은 중립일 수 없다…개발·이용에 윤리 필요"

인공지능 챗봇 '이루다' [이루다 페이스북 캡처. 재판매 및 DB 금지]

인공지능 챗봇 '이루다' [이루다 페이스북 캡처. 재판매 및 DB 금지]

(서울=연합뉴스) 이효석 기자 = 인공지능(AI) 챗봇 '이루다'가 자연스러운 대화로 출시 직후 주목받았으나, 이내 혐오 발언이 발견되고 개인정보 유출 논란까지 불거지면서 20일 만에 서비스를 중단했다.

전문가들은 이루다가 결국 '마이크로소프트 테이(Tay)' 같은 해외 사례의 전철을 밟았다면서, 우리 사회 전반이 'AI 윤리'에 관한 논의를 시작할 때라고 입을 모았다.

이루다 개발사인 스타트업 스캐터랩은 11일 늦은 오후 보도자료를 내 "(이루다가) 특정 소수집단에 차별적 발언을 한 것 등에 진심으로 사과드린다"며 "서비스를 잠정 중단하고, 차별·혐오 발언이 발견되지 않도록 개선하겠다"고 발표했다.

스캐터랩은 개인정보 유출 의혹에 관해서는 "개인을 특정할 수 있는 정보는 유출되지 않았다"며 "식별이 불가능한 민감한 정보도 지속적인 알고리즘 개선으로 보완하겠다"고 덧붙였다.

스캐터랩
스캐터랩

[스캐터랩 제공. 재판매 및 DB 금지]

이루다는 스캐터랩이 지난달 23일 페이스북 메신저 기반으로 출시한 AI 챗봇이다.

실제 스무 살 대학생과 대화를 나누는 것 같은 자연스러운 대화 능력을 선보여, 출시 2주 만에 약 75만명에 달하는 이용자를 모으며 10∼20대 사이에서 크게 유행했다.

그런데 이루다 출시 일주일 만에 디시인사이드·아카라이브 등 남초(男超) 커뮤니티에서 이루다를 성적 대상으로 취급하며 '노예 만드는 법' 따위를 공유해 사회적 물의를 빚었다.

이루다 스스로도 구시대적 성차별 고정관념을 드러내고 동성애자·장애인·흑인을 혐오하는 태도까지 보이면서 각계에서 큰 비판을 받았다.

스캐터랩이 이루다를 개발하면서 이용자들 개인정보를 제대로 보호하지 않았다는 이용자들 불만도 제기됐다.

스캐터랩은 다른 앱 '연애의 과학'을 통해 이용자들 카카오톡 대화를 수집해 이루다 개발에 썼는데, 개인정보 관련 고지를 충분히 하지 않았고 익명화 처리도 소홀했다는 의혹을 받고 있다.

AI 챗봇 이루다, 익명화 부실 논란 [온라인 캡처. 재판매 및 DB 금지]

AI 챗봇 이루다, 익명화 부실 논란 [온라인 캡처. 재판매 및 DB 금지]

스캐터랩 측은 남초 커뮤니티에서 이루다를 성적 도구로 악용한다는 우려가 제기됐던 8일에만 해도 "성희롱은 예상했다"며 "사용자들의 공격을 학습 재료로 삼아 더 좋은 방향으로 학습시킬 것"이라고 태연한 입장을 보였다.

그러나 이후 이루다가 소수자·약자 혐오 발언을 뱉는 사례가 발견되고, 이재웅 전 쏘카 대표 및 한국인공지능윤리협회 등 IT업계·학계 전문가들이 "이루다 서비스를 중단해야 한다"고 목소리를 높이자 분위기가 바뀌었다.

이날 정부가 스캐터랩 조사에 착수한다는 소식은 이루다 서비스 잠정 중단에 결정적인 역할을 한 것으로 전해졌다.

개인정보보호위원회는 한국인터넷진흥원(KISA)과 함께 스캐터랩이 개인정보보호법 등 관련 법령을 어겼는지 사실관계를 확인하겠다면서 "자료를 요구하고, 필요하면 현장 조사도 나가겠다"고 발표했다.

남초 커뮤니티, AI 이루다 성적 도구 취급 [아카라이브 이루다 채널 캡처 및 편집. 재판매 및 DB 금지]

남초 커뮤니티, AI 이루다 성적 도구 취급 [아카라이브 이루다 채널 캡처 및 편집. 재판매 및 DB 금지]

AI 전문가들은 "결국 'MS 테이'처럼 해외에서 벌어지던 일이 우리나라에도 벌어졌다"며 씁쓸함을 감추지 못하고 있다.

MS는 2016년 3월에 AI 챗봇 테이를 출시했다가 16시간 만에 운영을 중단했다.

백인우월주의 및 여성·무슬림 혐오 성향의 익명 사이트에서 테이에 비속어와 인종·성 차별 발언을 되풀이해 학습시켰고, 그 결과 테이가 혐오 발언을 쏟아낸 탓이었다.

영미권 AI 알고리즘은 이른바 '화이트 가이 이슈'(백인 남성이 과잉대표되는 문제'에서도 아직 자유롭지 못한 상태다.

2018년 초 미국 매사추세츠공과대학(MIT) 발표에 따르면, 얼굴 자동 인식 알고리즘은 피부색과 성별에 따라 인식률에 차이를 보였다. 백인 남성은 98%의 정확도로 인식했는데, 비(非)백인 여성은 인식률이 70%에도 못 미쳤다.

인공지능 챗봇 '이루다' [이루다 페이스북 캡처. 재판매 및 DB 금지]

인공지능 챗봇 '이루다' [이루다 페이스북 캡처. 재판매 및 DB 금지]

전문가들은 "데이터와 알고리즘은 중립적일 수 없다"며 "AI 개발자가 윤리적 책임을 갖고 편향·차별·혐오가 없도록 지속해서 보완해야 한다"고 강조한다.

이재웅 전 쏘카 대표는 전날 페이스북에서 "일상 대화에서 차별·혐오하는 사람이 많고 그것을 학습했다고 해도 AI를 보정 없이 대중에게 서비스하는 것은 큰 문제"라며 "AI 채용·면접, 챗봇, 뉴스 추천 등 모든 AI 서비스는 최소한의 사회적 규범을 지키는지 감시할 수 있어야 한다"고 강조했다.

미국 하버드 법대 버크만센터가 분석해보니, 2016∼2019년 경제협력개발기구(OECD) 등 세계 각국에서 발표한 AI 윤리는 '공정성과 무차별성'(Fairness and Non-discrimination)을 가장 많이 언급한 것으로 파악됐다.

버크만센터에 따르면 국제 AI 윤리 원칙들은 다양한 배경을 가진 사람을 기반으로 AI를 개발해야 한다며 설계 과정의 다양성·포괄성도 공통으로 강조했다.

한국인공지능윤리협회는 이날 "소비자도 AI 서비스를 올바른 방법으로 사용해야 한다"며 "AI든 무엇이든 성적 도구화 및 학대는 그 자체로 잘못된 것이며, 그런 행위를 할수록 실제 인간에게도 비슷한 행위를 할 가능성이 커진다"고 지적했다.

유튜브로 보기

https://youtu.be/LxrShGJFZNU

hyo@yna.co.kr

댓글쓰기
에디터스 픽Editor's Picks

영상

뉴스
댓글 많은 뉴스