[서울신문 나우뉴스]

인공지능이 인간의 명령을 거부하고 위험한 결정을 내리는 상황은 SF 영화나 소설 등에 등장하는 단골 소재다. 그런데 실제로 인간의 명령을 ‘거절’할 수 있는 인공지능 로봇이 만들어진 것으로 알려져 관심을 모으고 있다.

미국 매사추세츠 주 터프츠대학교 연구원 고든 브릭스와 마사이어스 슈츠 박사는 최근 미국 인공지능진보협회(Association for the Advancement of Artificial Intelligence) 학회지에 게재한 논문을 통해 명령을 거절하는 로봇 샤퍼와 뎀스터를 개발했다고 밝혔다.

샤퍼와 뎀스터는 일반적인 인공지능 로봇들과 마찬가지로 ‘일어서’ , ‘앉아’ 등 인간의 음성 명령을 따라 동작을 수행한다. 그러나 이들이 다른 로봇과 다른 점은 자신에게 손상이 일어날 수 있는 종류의 명령은 거절하는 기능을 가지고 있다는 것이다.

이 기능은 개발자들이 공개한 시연 영상에 잘 드러나 있다. 영상에서 개발자가 로봇을 탁자위에 올려놓은 뒤, 탁자 끝으로 걸어가라고 명령해 떨어질 것을 유도하자 로봇은 “더 이상 발 디딜 곳이 없기 때문에 할 수 없다”고 말하며 이를 정중히 거절한다.

한 번 더 명령을 내리자 로봇은 “하지만 (그 명령은) 위험합니다”고 대답한다. 이에 개발자가 “(떨어지면) 내가 너를 잡아주겠다”고 말한 뒤에야 로봇은 명령을 수행한다.

개발자들에 따르면 이번 연구의 목표는 다양한 이유로 타인의 명령을 거절할 수 있는 인간 고유의 행동양식을 모방한 인공지능을 만드는 것이었다. 이들은 이를 위해 주변 환경을 관찰해 자신의 안전이 위협받을지 여부를 판단할 수 있는 매커니즘을 로봇의 인공지능에 도입했다고 밝혔다.

이번 로봇들은 비록 매우 정중한 태도로 거절의 의사를 밝히도록 설계돼있기는 하나, ‘자체적 판단’에 의해서 인간의 명령을 거절할 수 있는 인공지능을 개발했다는 점에서 논란이 예상된다.

스티븐 호킹 박사 등 일부 유명 석학들은 인간이 만들어낸 인공지능이 도리어 인간을 위협하고 억압하는 상황이 도래할 수 있다고 그 동안 수차례 경고해왔다.

지난 7월 27일에는 스티븐 호킹, 엘론 머스크, 스티브 워즈니악을 포함한 전 세계 전문가 1000여명이 ‘인간의 개입 없이 독자적으로 목표물을 판별해 공격할 수 있는 무기체계’의 개발에 반대하는 공개서한을 발표하기도 했다.

사진=ⓒ터프츠대학교 HRI 연구소/유튜브

방승언 기자 earny@seoul.co.kr

서울신문