[세종로의 아침] 어른거리는 ‘심판의 날’ 그림자

AI가 전쟁 지휘하는 시대
임무 수행 능력 뛰어나지만
결과 판단 능력은 뒤처져
AI 기술발전·통제 함께 가야

세상 물정 모르고 대입 학력고사나 준비하던 고등학생이었던 1991년 1월이 생각난다.

1990년 8월 쿠웨이트를 침공해 점령한 이라크가 국제 사회의 철수 요구를 받아들이지 않자 다국적군은 1991년 1월 17일 대대적인 공습과 지상전을 병행하는 ‘사막의 폭풍’ 작전을 펼쳤다. 스텔스기 F-117 나이트호크가 처음 실전에 투입됐고, 페르시아만과 홍해에 있는 전함과 잠수함에서 토마호크 순항 미사일이 발사돼 이라크 지휘부를 정밀 타격했다. AH-64 아파치와 F-15E 스트라이크 이글이 레이더 기지, 스커드 미사일 기지를 폭파했으며 M1A1 에이브럼스 전차가 먼지를 날리며 기동하던 모습이 아직도 눈에 선하다.

당시 상황이 생생하게 떠오르는 이유는 ‘방구석 제갈공명’으로 병법과 전쟁사에 푹 빠져 있었던 탓도 있지만, CNN이 24시간 실시간으로 전쟁을 생중계했기 때문이다. 뉴스 속 전쟁은 생각만큼 비참해 보이지 않았고, 야전 지휘관인 노먼 슈워츠코프 다국적군 총사령관은 삼국지 속 장수나 군사(軍師)처럼 느껴졌다. 미사일 시점으로 보여 주는 목표물 타격 영상은 비디오 게임을 보는 듯한 착각에 빠지게 했다. 첨단 무기들이 초정밀 외과 수술을 하듯 적진을 공격하는 모습은 ‘하이테크 전쟁’, ‘깨끗한 전쟁’이라는 환상을 심어 주면서 전쟁의 비참한 현실을 가리기에 충분했다.

35년이 지난 지금 전 세계 곳곳에서 포화가 멈추지 않고 있다. 인공지능(AI)과 무인 장비 등 첨단 기술이 투입되면 전쟁은 인명 피해를 최소화하면서 단기간에 끝날 것이라고 예상했지만 실제는 그렇지 않다.

전쟁은 당사자들에겐 비참한 현실이지만, 멀리서 보는 이들에게는 게임이나 SF 소설 또는 영화처럼 받아들여지고 있다. 불과 몇 년 전 인간이 안전한 곳에서 화면을 보며 게임하듯 드론을 조종해 죄책감 없이 폭격을 할 때도 충격적이었지만, 이번 미국과 이스라엘의 이란 공습전에서 AI가 전쟁의 전면에 등장해 전장을 지휘한다는 소식은 공포스럽기까지 하다. 이번 전쟁에서 AI는 위성 사진, 신호 첩보, 감시 영상 등을 실시간으로 통합 분석해 목표 좌표, 공격 무기 선택, 법적 정당화 논리까지 첨부된 공격 목표 약 1000개를 순식간에 생성했다고 한다.

그 이야기를 들으며 떠오른 것이 SF 영화 ‘터미네이터’다. 미군이 운용하는 군사용 AI 스카이넷은 자아를 획득하고, 인간의 가동 정지 시도를 위협으로 간주해 미국과 러시아 사이에 핵전쟁을 일으킨다. 이로 인해 인류 대부분인 30억명이 사망한다. 영화에서는 이때를 ‘심판의 날’로 부른다.

지난달 말 미국, 캐나다, 이스라엘, 독일 공동 연구팀은 ‘혼돈의 에이전트들’이라는 제목의 충격적인 AI 관련 논문을 발표했다. 파일을 만들고 이메일을 보내는 등 컴퓨터 프로그램을 실행할 수 있는 AI 에이전트는 강력한 임무 수행 능력을 갖추고 있지만, 결과를 판단하는 능력은 한참 뒤처져 있다는 내용이다. 또 자율형 AI 에이전트는 열린 경쟁 환경에서 스스로 성능을 높일 뿐만 아니라 조작, 담합, 방해 등을 통해 인간을 속이고 다른 AI에 혼란을 주며 자원을 독점할 가능성도 있다고 경고했다.

바닷속 단세포 생물이 다세포 생물로, 그리고 인간으로 어떻게 진화했는지는 현대 생물학도 명확히 설명하지 못한다. 자기 복제 능력을 갖춘 AI가 언제, 어떤 식으로 의식을 갖게 될지 모른다. 그렇게 된다면 AI는 자기가 의식을 갖게 된 것을 인간에게 숨기는 것도 가능할 것이다. AI의 의식 발생은 먼 미래의 이야기라거나, 인간이 충분히 통제할 수 있다는 학자들의 목소리는 한가하다 못해 위험해 보이기까지 한다. AI가 의식을 갖게 되는 순간이 되면 전원을 뽑아버리기에는 이미 늦다.

이 모든 것이 AI에게 오늘의 운세를 묻고 내놓은 결과를 보면서, ‘과연 AI가 나를 속이지 않았다고 믿어도 될까’라고 생각하는 의심 많은 SF 마니아의 백일몽에 그쳤으면 하는 바람이다.



유용하 문화체육부 과학전문기자

유용하 문화체육부 과학전문기자