맨홀 구멍 낸 뒤 사람이 다가서면 밀어내도록 프로그램한 로봇

인간모형 둘 등장하자 우왕좌왕, 아예 멈추기도…

'운전면허 시험은 더 이상 필요 없다. 누구든 차를 타고 목적지만 입력하면 자동차가 알아서 안전하게 데려다 준다. 교통사고나 신호 위반은 역사책에나 나오는 용어일 뿐이다.'

최근 주목받고 있는 자율주행 자동차, 즉 무인차(無人車)가 열 미래 세상의 모습이다. 무인자동차는 상상만으로도 매력적인 기술이다. 지금까지 인류가 만들어낸 교통수단 중 사람의 조종이 필요없는 탈것은 없었다. 인터넷 업체 구글이나 전기차 업체 테슬라가 선보이고 있는 무인차 기술들은 머지않은 미래에 이런 꿈이 실현될 것이라는 장밋빛 전망을 사람들에게 심어주고 있다.

하지만 최근 무인차가 완벽해지기 어렵다는 주장도 제기되고 있다. 로봇이나 컴퓨터는 '정의란 무엇인가'라는 질문에 스스로 답할 수 없다는 이유에서다. 구글 등이 이런 난제를 해결하고 2017년 무인차 상용화 시대를 연다는 목표를 달성할 수 있을까.

자율주행 자동차(무인차)에서 한 여성이 주행 중에 책을 읽고 있다. 테슬라와 구글 등이 추진하는 무인차 시대가 성큼 다가왔지만, 최종 상용화를 위해서는 윤리 문제 등 해결해야 할 과제도 적지 않다. / EU 자동차 위원회

◇운전자를 희생시킬 수밖에 없는 무인자동차

"왜 무인차들은 사람을 죽이라고 프로그램되어야 하는가?"

프랑스 툴루즈경제학교 장 프랑수아 보네퐁 교수는 이달 중순 온라인 과학 저널 '아카이브'에 게재한 논문에서 이런 도전적인 질문을 던졌다. 보네퐁 교수는 무인차가 보편화된 미래에 일어날 수 있는 A·B·C세 가지 상황을 설정했다. 상황 A는 무인차가 달리는 와중에 갑자기 10명의 사람이 길로 뛰어드는 상황이다. 자동차가 방향을 틀 수 있는 유일한 방향에는 다른 보행자가 있다. 그쪽으로 방향을 틀면 그 보행자는 죽는다.

상황 B는 무인차 앞에 한 사람이 갑자기 나타나고, 만약 방향을 틀면 운전자가 사망하는 사고가 발생하는 경우다. C는 무인자동차 앞에 10명의 사람이 나타나고 방향을 틀면 운전자가 사망하는 사고가 발생한다.

보네퐁 교수는 이 세 가지 상황을 400여명의 사람에게 보여주고, 어떻게 무인차가 행동해야 할지를 물었다. B의 경우는 대부분의 사람이 운전자의 목숨을 중시했다. 보행자도 중요하지만, 다른 한 사람을 위해서 운전자의 목숨을 희생하기는 쉽지 않다는 공감대가 형성됐기 때문이다.

문제는 A와 C의 경우였다. 설문 참여자들은 A의 경우에는 방향을 틀어 한 사람을 희생하는 쪽이 낫다는 의견이 지배적이었다. C의 경우에는 운전자의 목숨을 희생하는 쪽에 대부분 표를 던졌다. 보네퐁 교수는 "이는 사람들이 기본적으로 인명의 손실을 최소화해야 한다는 도덕적 판단 기준을 갖고 있기 때문"이라고 설명했다. 10명을 희생하는 것보다는 한 사람의 희생이 낫다는 것이다.

프랑스 연구팀이 진행한 무인차의 선택 실험. A는 무인차가 달리는 와중에 10명의 사람이 도로에 뛰어드는 상황이고, B는 무인차의 방향을 틀면 운전자가 사망하는 상황이다. C는 10명의 보행자와 운전자의 목숨 중 하나를 선택해야 한다. 대부분의 사람은 희생자가 적게 발생하는 쪽을 택하는데, 무인차도 과연 그럴까. / 아카이브

보네퐁 교수의 연구 결과를 보면, 돌발 상황에서 무인차가 어떻게 행동하도록 프로그램할지 명확한 것처럼 보인다. '인명을 최소화하는 쪽'으로 프로그램하면 된다. 하지만 현실은 그렇게 단순하지 않다. MIT 테크놀로지 리뷰는 "무인차 구매자 입장에서는 최악의 경우에 자신을 죽이라고 프로그램된 차를 사게 된다는 뜻"이라고 분석했다.

이런 프로그램은 사람이 운전하는 경우와 비교할 때도 모순이 생긴다. 앞에 많은 사람이 있더라도, 자신이 죽을 수 있다는 것을 아는 순간 사람은 운전대를 돌리지 못하는 경우가 많다. 물론 이 경우 책임은 운전자가 지게 된다. 반면 무인차가 프로그램대로 움직여서 희생자가 생기면, 누가 책임을 질 것인가부터 문제가 생긴다. 운전자가 질 것인지, 자동차 제조사가 질 것인지, 아니면 프로그램 제작자가 질 것인지 결정하기 쉽지 않다. 만약 구매자가 자신이 희생될 수도 있다는 것을 알고 무인차를 샀다고 해서, 제조사의 책임을 면제해 주기도 어렵다.

무인차는 상용화가 코앞인데, 아직까지 이런 문제는 별로 논의가 되지 않고 있다. 보네퐁 교수는 "자동차와 오토바이 사고에서 자동차 탑승자의 생존 확률이 월등히 높다는 이유만으로, 무인차 앞에 오토바이가 나타나면 이를 피해 벽으로 돌진하라고 프로그램을 하는 것을 사람들이 받아들이겠는가"라며 "수백만 대의 무인차가 길거리로 나가기 전, 분명히 이런 도덕적 알고리즘에 대해 고민해봐야 한다"고 말했다.

영화 ‘아이로봇’의 주인공 ‘NS-5’는 스스로 판단하고 행동하는 자유의지를 가졌다. / 20세기폭스

◇로봇도 윤리적 문제 해결해야

산업 현장은 물론, 생활에까지 급속히 파고들고 있는 로봇 역시 같은 윤리적 문제에 빠질 수 있다. 대부분의 과학자는 로봇이 사람을 해치지 않도록 만든다. 미국 등에서 개발되고 있는 전투 로봇을 둘러싼 논란이 치열한 것도 결국 '로봇이 사람을 해칠 수 있도록 사람이 프로그램하는 것이 옳으냐'라는 질문에 '그렇지 않다'고 생각하는 사람이 많기 때문이다.

하지만 전투 로봇이 아니더라도, 로봇은 태생적으로 사람을 해칠 수 있다. '로봇 치타'를 개발한 김상배 MIT 기계공학과 교수는 "로봇이 더 무거운 물건을 들고, 더 빨리 움직이도록 만드는 것이 당연해 보인다"면서 "하지만 더 무거운 물건을 들 수 있는 힘센 로봇일수록, 더 빨리 움직이는 로봇일수록 사람을 대상으로 한 사고를 일으킬 확률은 높아진다"고 말했다.

로봇 역시 무인차처럼 도덕적 문제에 빠질 수 있다. 영국 브리스틀대 로봇연구실의 앨런 윈필드 교수 연구팀은 지난해 로봇을 대상으로 한 윤리 실험을 진행했다. 연구팀은 길거리에 커다란 맨홀 구멍을 낸 뒤, 사람이 이 구멍에 다가서면 밀어내도록 한 로봇을 만들었다. 로봇은 성공적으로 임무를 수행했다. 인간 모양을 한 더미(dummy·모형)가 구멍에 다가가면 곧바로 로봇은 달려들어 사람을 밀쳐냈다.

하지만 연구팀이 더미를 두 개 동시에 구멍 쪽으로 보내자, 로봇은 어느 쪽을 먼저 구할지 결정을 내리지 못하고 우왕좌왕했다. 33번의 실험 중 14번은 아예 로봇이 멈췄고, 더미는 둘 다 구멍에 빠졌다. 윈필드 교수는 "로봇은 시키는 대로 행동하는 것 이외에는 다른 선택권이 없는 '윤리적 좀비'"라며 "결국 사람의 도덕적 기준을 모두 프로그램화하지 않는 이상, 로봇에게 기대할 수 있는 것은 한계가 있다"고 말했다.

살아갈 날이 더 많다는 이유로 아이를 먼저 구하도록 프로그램하거나, 생존 확률이 낮은 허약한 사람을 먼저 구하도록 프로그램하는 것이 상식적일 수는 있다. 하지만 이 경우에도 나머지 사람이 사망할 경우, 사람을 구하도록 프로그램된 로봇이 미필적 고의로 살인을 저질렀다는 비판에 직면할 수 있다.

과학 전문지 뉴사이언티스트는 "사람의 도덕성을 프로그램하는 것은 아주 어려운 일이지만, 최근 이런 윤리적 제어장치를 만들려는 학자들도 있다"고 소개했다. 애틀랜타 조지아 기술연구소 연구진은 전투 로봇의 프로그램을 연구하고 있다. 드론이나 로봇이 사격을 할지 말지를 결정하도록 한 것이다. 학교나 병원 등이 주변에 있을 경우에는 사격을 하지 않도록 하고, 전장에서 총을 쏘더라도 사람이 최대한 적은 쪽으로 치명적이지 않은 부분을 노리도록 한 것이다. 뉴사이언티스트는 "향후 로봇 기술의 발전은 사람이 모든 상황을 정확하게 예측하지 않는 상황에서도 제대로 기능 할 수 있는 프로그램을 만들어내는 데 달려 있다"고 분석했다.

[박건형 기자 defying@chosun.com]

조선일보