인공지능 통제불능 사태 막는다…구글 '킬 스위치' 개발중

알파고 만든 '딥마인드'가 개발…AI의 킬 스위치 무력화 방지가 핵심

이춘규 기자  taein@yna.co.kr
[2016.6.9.]

(서울=연합뉴스) 이춘규 기자 = 미국 구글이 고도로 발달한 인공지능(AI)이 폭주하는 사태가 생길 때 비상 정지시키는 '킬 스위치(Kill Switch)'를 개발 중이라고 니혼게이자이신문이 9일 보도했다.

AI가 인간의 의도나 통제를 벗어나 해를 끼칠 수 있는 '반역'이 예상되는 상황에서 즉각 안전하게 정지시켜 위험을 차단하는 대비책을 마련한다는 것이다.

이 비상 스위치는 '빅 레드 버튼(big red button)'으로 불린다.

이번 개발은 빠른 속도로 진화하는 AI의 악용을 둘러싼 사회적 불안감을 막아보려는 취지로 풀이된다.

<중략>

킬 스위치 개발에는 지난 3월 세계 최고 프로바둑기사 이세돌을 이긴 바둑AI '알파고'를 개발한 구글 자회사 영국 딥마인드 테크놀로지의 연구자들이 나섰다.

딥마인드 연구진들은 대학의 최신 연구 성과까지 활용하기 위해 영국 옥스퍼드대학의 연구자 그룹과 힘을 합해 기본구조를 고안, 최근 인터넷상에서 논문으로 발표했다.

'안전하게 멈춰세울 수 있는 대리자(Safely Interruptible Agents)'라는 논문은 "인공지능이 인간에게 해로운 행위를 하려 들 때 강제로 멈출 수 있는 '킬 스위치'가 필요하다"고 강조했다

AI가 비상정지 버튼을 무력화하지 못하도록 하는 것이 핵심이다.

<중략>

딥 마인드는 2014년에 구글에 의해 인수될 때 사내에 윤리위원회를 설치하는 것을 조건으로 하는 등 AI의 폭주 위험을 의식한 운영을 하고 있는 것으로 알려져 있다.

영국 물리학자 스티븐 호킹 박사 등도 AI의 진화가 인간에게 위협이라고 틈틈이 경고한다. 미국 비영리조직 퓨처오브라이프인스티튜트(FLI)도 자율로봇무기의 금지를 호소하고 있다.

<중략>

기사 상세 내용 보기_클릭