2016년 알파고-이세돌 대국에서 특이한 점은 누구도 알파고의 포석과 행마를 이해할 수 없었다는 점이다. 해설하는 프로기사들도 연신 “도무지 알 수 없는 알파고의 수”라고 반복했으며 알파고를 만든 딥마인드의 개발자도, 대신 돌을 놓은 아자 황도 돌의 의미를 설명할 수 없었다. 이해도, 설명도 할 수 없지만 알파고의 수는 대적 불가능이었다. 작동원리를 알 수 없지만 뛰어난 효율성의 인공지능을 어떻게 받아들일 것인가? 효율 개선이 필요한 많은 분야에 적용해 비약적 성취를 얻을 것인가, 작동 방법을 알아 통제할 수 있기 전까지는 신뢰를 유보할 것인가.

‘설명가능한 인공지능’ 개발이 인공지능 연구의 최전선으로 부상하고 있다. 첨단연구의 산실인 미국 국방부 방위고등연구계획국(DARPA)는 2017년 ‘설명가능한 인공지능’ 개발에 뛰어들었다. 국내 과학기술정보통신부도 지난해 ‘차세대 학습·추론 인공지능’ 개발 과제를 발주해 울산과학기술원의 설명가능 인공지능 연구센터(센터장 최재식)가 연구를 수행하고 있다. 한국정보화진흥원은 2018년 ‘설명가능한 인공지능’을 정보통신분야에서 떠오를 기반기술로 선정했다.

최근 국내에서도 관련 포럼이 잇따라 열렸다. 8월24일 서울대 법과경제연구센터(센터장 고학수), 고등과학원 초학제연구단(단장 홍성욱)은 각각 프레스센터와 고등과학원에서 인공지능의 책임과 윤리를 주제로 내건 국제 포럼을 열어 ‘설명가능한 인공지능’을 다뤘다.

<중략>