연합뉴스 본문 바로가기 메뉴 바로가기

연합뉴스 최신기사
뉴스 검색어 입력 양식

닭싸움과 교통사고 구분 못한 페이스북 AI…유해 영상 못 걸러

송고시간2021-10-18 01:42

beta

세계 최대 소셜미디어 페이스북을 둘러싼 잡음이 끊이지 않는다.

미 유력 언론들이 연일 페이스북과 자회사 인스타그램의 어두운 이면을 드러낸 내부 문건들을 입수해 비판 보도를 이어가고 있다.

월스트리트저널(WSJ)은 17일(현지시간) 페이스북이 증오 발언(헤이트 스피치)과 과도한 폭력을 포함한 콘텐츠를 신속히 삭제하기 위해 도입한 인공지능(AI) 시스템이 부적절한 게시물을 제대로 걸러내지 못했다고 보도했다.

요약 정보 인공지능이 자동으로 줄인 '세 줄 요약' 기술을 사용합니다. 전체 내용을 이해하기 위해서는 기사 본문과 함께 읽어야 합니다. 제공 = 연합뉴스&줌인터넷®

1인칭 총격 영상과 세차 장면도 혼동…증오발언은 거의 못 걸러내

인스타그램서 10대 이용자 줄자 "실존적 위협"이라며 마케팅 예산 5배로↑

깨진 유리 사이로 보이는 페이스북 로고
깨진 유리 사이로 보이는 페이스북 로고

[로이터 연합뉴스 자료사진. 재판매 및 DB 금지]

(뉴욕=연합뉴스) 강건택 특파원 = 세계 최대 소셜미디어 페이스북을 둘러싼 잡음이 끊이지 않는다.

미 유력 언론들이 연일 페이스북과 자회사 인스타그램의 어두운 이면을 드러낸 내부 문건들을 입수해 비판 보도를 이어가고 있다.

월스트리트저널(WSJ)은 17일(현지시간) 페이스북이 증오 발언(헤이트 스피치)과 과도한 폭력을 포함한 콘텐츠를 신속히 삭제하기 위해 도입한 인공지능(AI) 시스템이 부적절한 게시물을 제대로 걸러내지 못했다고 보도했다.

WSJ이 입수한 내부 문건에는 페이스북 AI가 '1인칭 총격' 영상과 헤이트 스피치를 충분히 감시하지 못한 것은 물론 닭싸움(투계)과 교통사고 영상조차 구분하지 못했다는 내용도 담겼다.

지난 2019년 작성된 한 내부 문건에 따르면 2018년 중반 페이스북의 한 엔지니어는 잔혹한 자동차 충돌사고와 투계 영상이 확산 중이라는 점을 파악하고 동료들과 함께 AI가 해당 영상을 인식해 이를 삭제하는 방안을 추진했다.

그러나 몇 주에 걸친 노력에도 AI는 투계장에서 싸우는 닭과 평범한 닭을 구분하지 못했다고 이 엔지니어는 밝혔다.

엔지니어들은 '딥비전'이라는 이름의 정교한 머신러닝 프로그램을 활용해 AI에 심하게 다친 닭이 나오는 영상을 걸러내고 가벼운 상처를 입은 닭이 나오는 영상은 무시하도록 학습시켰으나, 큰 효과가 없었다는 것이다.

심지어 2건의 사례에서 AI가 "분명히 투계 영상들인데 자동차 충돌 영상으로 분류했다"고 엔지니어들은 보고했다.

지난 2019년 미 하원 청문회에 출석한 마크 저커버그 페이스북 CEO
지난 2019년 미 하원 청문회에 출석한 마크 저커버그 페이스북 CEO

[AFP 연합뉴스 자료사진. 재판매 및 DB 금지]

이들은 또 지난 2019년 3월 뉴질랜드 크라이스트처치에서 한 테러리스트가 이슬람 사원 2곳에서 51명을 총격 살해하면서 자신의 범행을 '1인칭 시점'에서 페이스북으로 생중계한 것을 계기로 AI를 활용한 1인칭 총격 영상을 걸러내려 시도했으나, AI는 이런 영상을 제대로 탐지하지 못한 것으로 나타났다.

일부 사례에서는 AI가 페인트볼을 쏘는 서바이벌 게임이나 세차 장면을 1인칭 총격과 혼동한 것으로 보고됐다.

증오 발언이 담긴 콘텐츠에 대해서도 결과는 마찬가지였다.

한 수석 엔지니어는 2019년 중반에 작성한 내부 보고에서 페이스북의 자동화 시스템이 규정을 위반한 헤이트 스피치 조회 건수의 단 2%에 해당하는 게시물을 삭제하는 데 그쳤다고 밝혔다.

올해 3월 다른 내부 문건에서도 AI 시스템이 헤이트 스피치 조회 건수의 3∼5%에 해당하는 게시물을 삭제한 것으로 보고됐다. 폭력과 선동 등의 모든 규정 위반 콘텐츠로 대상을 확대하면 AI가 걸러낸 게시물은 0.6%에 불과했다.

인스타그램 로고 앞에서 촬영된 모바일 이용자들의 실루엣
인스타그램 로고 앞에서 촬영된 모바일 이용자들의 실루엣

[로이터 연합뉴스 자료사진. 재판매 및 DB 금지]

페이스북이 사진·동영상 공유 소셜미디어 인스타그램의 10대 청소년 사용자들을 유지·확대하는 데 사활을 걸고 있다는 뉴욕타임스(NYT) 보도도 나왔다.

이는 페이스북이 인스타그램 앱의 청소년 정신건강 유해 가능성을 지적하는 자체 조사 결과를 무시했다는 최근 내부 고발자의 폭로와 이에 관한 상원 청문회까지 열린 이후에 나온 것이어서 더욱 우려를 키운다.

NYT에 따르면 인스타그램은 지난 2018년 한 마케팅 프레젠테이션에서 10대 이용자들의 유출을 회사의 "실존적 위협"으로 규정했다.

페이스북은 이후 10대 이용자를 경쟁 소셜미디어에 뺏기지 않기 위해 인스타그램에 거액을 베팅하기 시작했다.

2018년 6천720만 달러(약 795억원)였던 전 세계 마케팅 예산은 올해 3억9천만 달러(약 4천616억원)로 5배 이상 급증했고, 그 대부분은 10대 청소년을 타깃으로 한 디지털 광고 등으로 집행됐다.

이러한 마케팅은 중학생에서 고교생 저학년에 이르는 만 13∼15세 이용자를 유지하고 새로 끌어들이는 데 집중됐다고 신문은 보도했다.

2021년 마케팅 계획을 위해 지난해 10월 제출된 회사 경영전략 내부 문건에는 "미국의 10대들 사이에서 발판을 잃는다면, 우리는 파이프라인(유입로)을 잃어버리는 것"이라는 우려도 담겼다.

금융서비스업체 파이퍼샌들러 조사 결과 미국의 10대 중 35%는 스냅챗을, 30%는 틱톡을 각각 가장 선호하는 소셜미디어로 꼽았고 인스타그램이라고 답한 비율은 22%에 그쳤다.

앞서 페이스북은 10대 공략을 위해 스냅챗을 인수하려다 실패로 돌아간 뒤 스냅챗의 핵심 기능을 베낀 '스토리' 기능을 인스타그램에 추가했으나, 13∼15세 이용자층에서는 별로 호응이 없었다고 NYT는 전했다.

지난 5일 미 상원 청문회에서 증언하는 페이스북 내부고발자
지난 5일 미 상원 청문회에서 증언하는 페이스북 내부고발자

[EPA 연합뉴스 자료사진. 재판매 및 DB 금지]

firstcircle@yna.co.kr

댓글쓰기
에디터스 픽Editor's Picks

영상

뉴스
댓글 많은 뉴스