연합뉴스 본문 바로가기 메뉴 바로가기

연합뉴스 최신기사
뉴스 검색어 입력 양식

'AI 이루다' 서비스 잠정 중단…"차별·혐오 개선하겠다"(종합)

송고시간2021-01-11 21:29

beta

혐오 발언 및 개인정보 유출 등의 논란에 휩싸인 인공지능(AI) 챗봇 '이루다'가 서비스를 잠정 중단한다.

이루다 개발사인 스타트업 스캐터랩은 11일 오후 보도자료를 내 "부족한 점을 집중적으로 보완할 수 있도록 서비스 개선 기간을 거쳐 다시 찾아뵙겠다"고 밝혔다.

스캐터랩 측은 입장문에서 "특정 소수집단에 대해 차별적 발언을 한 사례가 생긴 것에 진심으로 사과드린다"면서 "그런 발언은 회사의 생각을 반영하지 않고 있으며, 차별·혐오 발언이 발견되지 않도록 지속해서 개선 중"이라고 설명했다.

요약 정보 인공지능이 자동으로 줄인 '세 줄 요약' 기술을 사용합니다. 전체 내용을 이해하기 위해서는 기사 본문과 함께 읽어야 합니다. 제공 = 연합뉴스&줌인터넷®

개인정보 유출에 관해선 "구체적 정보 삭제했고 익명화 강화했다"

"편향 대화 검출 모델 공개할 것…AI 윤리 발전에 기여하고 싶다"

인공지능 챗봇 '이루다' [이루다 페이스북 캡처. 재판매 및 DB 금지]

인공지능 챗봇 '이루다' [이루다 페이스북 캡처. 재판매 및 DB 금지]

(서울=연합뉴스) 이효석 기자 = 혐오 발언 및 개인정보 유출 등의 논란에 휩싸인 인공지능(AI) 챗봇 '이루다'가 서비스를 잠정 중단한다.

이루다 개발사인 스타트업 스캐터랩은 11일 오후 보도자료를 내 "부족한 점을 집중적으로 보완할 수 있도록 서비스 개선 기간을 거쳐 다시 찾아뵙겠다"고 밝혔다.

이날 오후 9시 현재 이루다는 정상 서비스 중이다. 스캐터랩 측은 "서비스 중단을 결정하자마자 발표해서 아직 기술적으로는 적용되지 않았다"며 "조속히 서비스를 잠정 정지할 것"이라고 전했다.

스캐터랩 측은 입장문에서 "특정 소수집단에 대해 차별적 발언을 한 사례가 생긴 것에 진심으로 사과드린다"면서 "그런 발언은 회사의 생각을 반영하지 않고 있으며, 차별·혐오 발언이 발견되지 않도록 지속해서 개선 중"이라고 설명했다.

6개월간 베타테스트를 통해 혐오 표현 필터링 등을 적용했는데 예상치 못한 수준의 악성 이용자들이 나타났으며, 현재 언론 보도 등을 통해 알려진 사례들은 필터링 개선을 완료했다는 게 스캐터랩 입장이다.

인공지능 챗봇 '이루다' [이루다 페이스북 캡처. 재판매 및 DB 금지]

인공지능 챗봇 '이루다' [이루다 페이스북 캡처. 재판매 및 DB 금지]

스캐터랩은 개인정보 유출 의혹에 관해서도 "개인정보 취급 방침 범위 내에서 활용했지만, 이용자분들과 충분히 소통하지 못했다"며 사과했다.

그러면서 스캐터랩은 "이름·닉네임·이메일 등 구체적 개인정보는 이미 제거돼있으며, 전화번호·주소 등 모든 숫자 정보도 삭제했다"며 "비식별화·익명화를 강화해 개인을 특정할 수 있는 정보는 유출되지 않았다"고 해명했다.

이어 "향후 데이터 사용 등의 절차를 명확하게 하고, 식별이 불가능한 정보도 민감해 보일 수 있는 내용에 대해서는 지속적인 알고리즘 개선으로 보완하겠다"고 스캐터랩은강조했다.

스캐터랩은 "앞으로 편향 대화 검출 모델은 모든 분이 사용하실 수 있게 공개할 계획"이라며 "한국어 AI 대화 연구 및 AI 제품, AI 윤리 발전에 유용하게 쓰일 수 있으면 좋겠다"라고도 덧붙였다.

이루다는 스타트업 스캐터랩이 지난달 23일 페이스북 메신저 기반으로 출시한 AI 챗봇이다.

자연스러운 대화 능력으로 최근 이용자가 약 75만명에 달하는 등 크게 주목받았는데, 악성 이용자로부터 성적 도구 취급에 시달리더니 동성애·장애인·여성 차별 발언을 내놓기도 해 논란이 됐다.

스캐터랩의 다른 앱 '연애의 과학' 이용자들은 스캐터랩이 충분한 설명 없이 이루다 개발에 개인정보를 활용하고, 개인정보 보호도 제대로 하지 않았다면서 집단 소송을 예고하고 있다.

개인정보보호위원회는 한국인터넷진흥원(KISA)과 함께 스캐터랩 관련 사실관계 파악에 착수했다고 이날 밝혔다.

hyo@yna.co.kr

댓글쓰기
에디터스 픽Editor's Picks

영상

뉴스
댓글 많은 뉴스