구테레스(앞줄 가운데)가 18일 뉴욕 유엔본부에서 열린 인공지능(AI) 관련 유엔 안전보장리사회 회의에서 연설하고 있다. /신화사

유엔 안전보장리사회(안보리)가 처음으로 인공지능(AI)이 국제 평화와 안보에 미칠 영향을 론의했다.

구테레스 유엔 사무총장은 18일 뉴욕 유엔본부에서 열린 유엔 안보리 고위급 공개회의에서 AI의 기술적 리스크를 규제하고 새로운 유엔 기구 창설을 통해 AI에 대한 글로벌 치리를 강화할 것을 촉구했다.

구테레스는 날로 발전하는 AI 기술이 이미 사회에 막대한 영향을 미치고 있지만 이 기술이 미래에 어떠한 결과를 가져올지 AI 개발자들조차 잘 모른다고 말했다. 그는 오늘날 AI가 평화 유지, 중재, 인도적 구제 등 분야에 점차 더 많이 응용되고 있지만 악용될 가능성도 있다고 지적했다. 특히 범죄자와 테로리스트가 기술적，재정적으로 쉽게 AI에 접근할 수 있기 때문에 일단 군사 또는 비군사적 분야에서 악용된다면 세계 평화와 안보에 매우 심각한 결과를 초래할 수 있다고 피력했다.

구테레스는 AI와 관련된 다른 잠재적 위험 요소도 언급했다. 그는 생성형 AI로 가짜 정보와 혐오성 발언이 넘쳐날 수 있으며 일부 AI 시스템의 기능이 예측하기 어려워 예상치 못한 안보 위험을 초래할 수 있다고 설명했다. 또한 오작동 위험이 있어 AI가 핵무기, 바이오 기술, 신경계 기술, 로보트 기술과 결합해 끔찍한 결과를 불러올 수 있다고 덧붙였다. 그는 생성형 AI가 선과 악의 량면성을 지니고 있기 때문에 리스크에 대한 예방조치를 취하지 않는다면 이는 현세대와 후세대에 대한 직무 유기라고 강조했다.

구테레스는 유엔이야말로 AI 글로벌 치리 기제를 모색할 수 있는 리상적인 곳이라고 말했다. 그는 일부 국가가 AI 글로벌 치리 강화를 위한 새로운 유엔 기구의 창설을 호소하고 있다며 이러한 의견에 환영의 뜻을 전했다.

구테레스는 이미 ‘AI 고위급 자문 위원회’ 설립에 착수했으며 년말까지 AI 글로벌 치리에 관한 정책적 건의를 내놓을 방침이라고 밝혔다.

/신화사