연합뉴스 본문 바로가기 메뉴 바로가기

연합뉴스 최신기사
뉴스 검색어 입력 양식

"AI 시스템으로 인한 피해에 대비해 '인간 백업' 갖춰야"

송고시간2022-10-05 06:37

백악관, AI 권리장전 청사진 공개…"자동화 부작용 방지"

미국 워싱턴 D.C. 백악관
미국 워싱턴 D.C. 백악관

[연합뉴스 자료사진]

(워싱턴=연합뉴스) 김동현 특파원 = 미국 백악관이 인류의 삶을 편하게 만들 수 있지만 사생활 침해 등 부작용이 우려되는 인공지능(AI)으로부터 개인 권리를 보호하기 위한 지침을 내놓았다.

백악관은 4일(현지시간) AI 시대에 미국인의 권리를 보호하기 위해 자동화 시스템의 개발, 사용, 배치에 대한 기본 원칙을 담은 'AI 권리장전 청사진'을 공개했다.

AI를 다루는 기업과 정부 기관에 대한 권고 성격인 청사진은 ▲ 안전하고 효과적인 시스템 ▲ 알고리즘의 편견 방지 ▲ 개인정보 보호 ▲ 충분한 고지와 설명 ▲ 대인(對人) 서비스 제공 등 5가지 원칙으로 구성됐다.

백악관은 AI 시스템을 안전하고 의도된 대로 사용해야 하며 필요하면 아예 사용하지 않거나 제거할 수 있어야 한다고 권고했다.

알고리즘 등 시스템에 인종이나 피부색, 민족, 성별, 종교, 연령, 장애 등에 따라 사람을 차별할 수 있는 고정관념이 내재되지 않아야 한다고 했다.

꼭 필요한 정보만 개인의 허락을 받아 수집하고 특히 의료, 직업, 교육, 범죄기록, 금융 등 민감한 정보가 유출되지 않도록 안전장치를 마련할 것을 주문했다.

개인의 권리를 침해할 수 있는 무분별한 감시에 대해서도 경고했다.

사업자들은 AI가 어떻게 작동하고 사용자에게 어떤 영향을 미치는지 이해하기 쉬운 표현으로 설명해야 하며 사용자가 원하면 AI가 아닌 사람을 상대할 수 있도록 대안 서비스를 제시해야 한다.

특히 AI 시스템이 제대로 작동하지 않거나 피해를 일으킬 수 있는 경우에 대비해 '인간 백업'이 필요하다고 강조했다.

백악관은 AI가 삶을 풍요롭게 만들 큰 잠재력이 있지만 부작용에 대한 우려도 크다면서 "AI 권리장전 청사진은 이런 위협으로부터 사람들을 보호하고 기술이 우리의 가장 고귀한 가치를 강화하는 사회를 만들기 위한 지침"이라고 설명했다.

bluekey@yna.co.kr

댓글쓰기
에디터스 픽Editor's Picks

영상

뉴스
댓글 많은 뉴스