‘인공지능을 향한 맹신’ AI도 법적 지위 가지게 될까

문혜정 기자
[2016.8.14.]

<대한금융신문=문혜정 기자> 2010년 5월 6일 오후 2시 42분 역사에 남을 사건이 터졌다. 단 5분만에 증시의 1/10, 약 1조달러가 순식간에 증발했다. 이 엄청난 증시폭락을 만든 장본인은 바로 각 금융회사에서 운영하는 인공지능들이었다.

천분의 일초 또는 백만분의 일초 단위로 움직이던 초단타 매매(HFT) 인공지능들이 특정한 매도 거래에 개입했다 부족한 매수주문을 확인하자마자 경쟁적으로 팔아 치우기 시작했다. 그 영향은 순식간에 포트폴리오 전체로 확산되고 결국 시장 전체가 폭락하는 상황에 이르렀다.

자율성 높아지며 위험 가능성↑

최근 인공지능의 자율성이 높아지면서 인간과 인공지능 둘 중 누구의 의견을 따라야 할지 판단할 수 있는 기준 마련의 필요성이 제기되고 있다.

인공지능의 자율성이란 주변 환경을 관측(Observe)하고 판단(Origin)해서 결심(Decision)한 후 행동(Act)하는 OODA 루프상의 각 단계별로 인공지능 스스로 결정할 수 있는 능력을 말한다.

<중략>

가장 심각한 문제는 인공지능의 자율성이 높아지면 오히려 충실한 역할 수행이 사고 발생의 단초가 될 수 있다는 점이다.

미국증권거래위원회(SEC)가 2010년 발생한 미국 증시폭락에 대해 6개월 이상의 장기 조사를 통해 원인으로 지목한 것은 바로 인공지능 각각의 거래 행태였다.

각 금융기관마다 독자적으로 개발한 초단타매매(HFT) 인공지능들이 인간으로부터 거래 권한을 위임 받은 후 각자의 역할을 너무나 신속하고 동시 다발적으로 열심히 수행하는 바람에 증시 폭락이 발생했다는 결과였다.

<중략>

2003년 이라크전 당시 수 차례 발생했던 패트리어트 미사일 시스템의 연합군 전투기 오인 격추 사고들은 모두 인공지능 간 충돌에 의해 발생했다. 무선식별장치의 차이로 센서가 잘못된 정보를 제공하고 레이더의 인식 오류가 생기는 등 모든 요인들이 복합적으로 작용한 결과였다.

당시 최종 결정권을 가진 담당자들은 모두 인간보다 컴퓨터의 판단을 신뢰했고 결국 돌이킬 수 없는 비극이 벌어졌다.

인간이 로봇 시스템의 판단을 더 신뢰해 발생하는 사고는 인공지능의 판단이 100% 정확해지기 전까지는 계속 일어날 수 있으며 오히려 성능이 높아질수록 더 치명적인 사고로 이어질 수 있다.

인간이 인공지능의 판단을 그대로 신뢰하는 경향이 있다는 점은 인공지능의 자율성 수준을 거론할 때 중요한 기준이 된다.

<중략>

“인간과 동등한 자격 부여해 달라”

인공지능이 예상치 못한 문제를 일으킬 수 있다고 해서 자율성을 완전히 제거할 수는 없다.

자율성은 인공지능과 로봇의 도입 목적인 인간의 대체 효과, 인력 투입 및 관련 비용절감을 위해 필수적인 요소다. 인공지능의 자율성은 인간이 가진 권한과 책임의 공유, 위임을 의미하므로 인간의 통제, 개입 수준과 반비례하게 된다. 인간을 대체하는 효과는 그만큼 커진다. 자율성이 높아진 인공지능의 법적 지위는 이제 본격적인 이슈로 다뤄지고 있다.

지난 2월 미국 도로교통국(NHTSA)은 구글의 질의에 대한 유권 해석을 통해 자율주행자동차를 통제하는 인공지능이 운전자로 간주될 가능성이 있다는 의견을 낸 바 있다.

현재 수준의 인공지능에게 당장 인간과 동등한 수준의 자격을 부여한다는 의미는 아니지만 앞으로 인간 운전자에게 적용되는 평가 기준을 충족하는 인공지능에게는 인간과 동등한 자격을 부여할 가능성을 시사한 것이다.

더 나아가 인공지능의 계약 체결권과 재산 소유권까지 그 논점이 확산되고 있다. 전문가들은 기업이 계약 체결과 재산 소유가 가능한 법인격을 부여받는 것처럼 인공지능이나 로봇도 법인격을 받을 수 있다고 보고 있다.

<중략>

기사 상세 내용 보기_클릭