연합뉴스 본문 바로가기 메뉴 바로가기

연합뉴스 최신기사
뉴스 검색어 입력 양식

[실리콘밸리 리포트] "AI 시스템, 인간의 통제하에 둬야 한다"

송고시간2017-09-03 06:07

"내 AI가 그런 짓을 했다고?" 하는 변명 통하지 않도록

(샌프란시스코=연합뉴스) 김현재 특파원 = 일론 머스크 테슬라 CEO는 대표적인 AI(인공지능) 회의론자로 꼽힌다.

그는 AI, 즉 로봇의 급속한 발달이 궁극적으로 인류의 파괴를 가져올 것을 믿어 의심치 않는다.

그의 '화성 식민지 프로젝트'는 로봇의 인류 파괴에 대비해 인간을 화성으로 이주시켜야 한다는 어찌 보면 '망상적' 생각에서 비롯됐다.

일론 머스크 테슬라 CEO [트위터 캡처]
일론 머스크 테슬라 CEO [트위터 캡처]

물론, 마크 저커버그 페이스북 CEO 등 실리콘 밸리의 대다수 인사는 AI의 미래가 인간의 편의와 행복으로 귀결될 것이라며 머스크의 'AI 종말론'은 무책임한 주장이라고 말한다.

하지만 그들 조차도 내심 AI가 통제를 벗어나 너무 급속히 발달하게 될 경우 가져올 폐해에 대해 일단의 우려를 하고 있다.

이런 우려는 70여 년 전인 1942년 러시아 출생의 미국 SF 소설가인 아이작 아시모프가 과학적 상상력으로만 쓴 '아이 로봇'에서 벌써 드러나 있다.

'SF 소설의 전설로 불리는 그는 이 소설에서 '소녀를 사랑한 로봇', '마음을 읽는 거짓말쟁이', '대도시 시장이 된 로봇', 등 생각하고 자존심까지 가진 로봇의 세계를 환상적이고 매력적으로 표현하면서도 로봇과 인간 사이의 있을 수 있는 갈등을 보여줬다. 하지만 그의 결론은 그 갈등은 치유할 수 있다는 것이었다. 바로 유명한 '로봇의 3 원칙'을 통해서다.

아이작 아시모프의 '아이 로봇' [플리커 이미지]
아이작 아시모프의 '아이 로봇' [플리커 이미지]

제1원칙은 '로봇은 인간에게 해를 입혀선 안 된다. 그리고 위험에 처한 인간을 모른 척해서는 안 된다'는 것이다. 제2원칙은 로봇은 인간의 명령에 따라야 한다는 것이다. 다만, 그것이 제1 법칙과 상충하지 않아야 한다는 단서를 달았다. 가령 인간이 로봇에 인간을 해치라고 명령한다면 이를 따라서는 안 된다는 것이다.

마지막으로 로봇은 자신의 존재를 보호해야 한다고 규정했다. 자신이 위험에 처해 있을 때 이를 피할 권리가 있다는 것이다. 하지만 이 또한 제1·2원칙과 상충해선 안 된다고 못 박았다. 로봇은 스스로 위험하다고 판단되더라도 그것이 인간의 명령(2원칙)이라면 상위 원칙을 따라야 한다는 것이다.

이 세 가지 원칙은 이후 로봇의 미래를 얘기하는 각종 소설과 영화에 불문율처럼 적용됐다.

알렌 AI 연구소의 오린 에트지오니 소장은 2일 뉴욕타임스(NYT) 기고문에서 이 세 가지 원칙에 '영감'을 얻은 발전된 세 가지 규칙이라며 자신의 3원칙을 소개했다.

오린 에트지오니 알렌 AI 연구소장 [트위터]
오린 에트지오니 알렌 AI 연구소장 [트위터]

그는 제1원칙으로 AI 시스템은 '인간 운영자'에게 적용되는 모든 법률을 준수해야 한다고 말했다.

그는 "사이버 테러, 주가 조작, 테러 위협 등에 종사하는 AI를 우리는 원치 않는다"면서 "따라서 '내 AI가 그런 짓을 했다는 말인가?'라는 말이 절대 용납될 수 없는 법체계를 만들어야 한다"고 주장했다.

가령 어느 나라의 핵무기가 AI의 실수로 자동 발사됐다는 변명은 있을 수 없도록 해야 한다는 것이다.

그는 두 번째 원칙으로 'AI는 인간이 아니다'는 점을 명확하게 공개해야 한다고 강조했다.

로봇이 누군가를 사칭하는 것을 분명히 알 수 있도록 해야 한다는 것이다. 이미 트위터상에 도널드 트럼프 미국 대통령을 가장한 로봇이 설치고 있고, 지난 7월에는 미국 워싱턴대학교 연구팀이 버락 오바마의 연설을 AI로 짜깁기해 입 모양과 표정 등을 조작해 실제 연설 때와는 완전히 다른 말을 하는 진짜 같은 가짜 오바마를 공개한 바 있다.

워싱턴 대학 연구팀의 '가짜 오바마 연설' 생성 과정
워싱턴 대학 연구팀의 '가짜 오바마 연설' 생성 과정

이런 AI로 만들어진 가짜는 분명 '봇'임을 명백히 표시해야 하고 그렇지 않을 경우 처벌할 수 있도록 해야 한다는 것이 그의 주장이다.

그는 마지막으로 AI 시스템은 정보 출처로부터 명백한 승인이 없이 기밀 정보를 공개하거나 보유할 수 없도록 해야 한다고 강조했다.

AI는 자동 정보 추출·기록·분석에서 뛰어난 강점이 있어 기밀 정보를 습득하는 매우 유리하고도 중요한 위치에 있다. 이를 규제할 장치가 필요하다는 것이 그의 주장이다.

그는 "이 3가지 원칙은 완벽하지 않다"면서 "그러나 토론을 위한 출발점이 됐으면 한다"고 제안했다.

2016년부터 실리콘 밸리는 'AI의 시대'로의 진입을 공식화했다. 구글과 페이스북, 애플 등 세계 굴지의 IT 기업들이 개발자회의를 통해 'AI의 미래'가 불가피함을 역설했다. 인간과 유사한 로봇이 등장할 시점도 그리 멀지 않아 보인다.

에트지오니는 "AI가 인간에게 미칠 악영향에 대한 머스크의 생각에 나는 동의하지 않는다"면서도 "그러나 AI는 우리에게 다가오고 있고, 그 시대를 우리는 준비해야 한다"고 말했다.

"AI라는 말은 이미 마구간을 떠났다. 최선의 방법은 그것을 잘 조종하는 것이다. AI를 무기화해서는 안 되며 난공불락의 '오프 스위치(off switch·기계 끄는 장치)'를 갖도록 해야 한다"고 그는 강조했다.

kn0209@yna.co.kr

댓글쓰기
에디터스 픽Editor's Picks

영상

뉴스
댓글 많은 뉴스