[씨줄날줄] AI 무기와 팔란티어

1945년 7월 16일 미국 뉴멕시코주 사막에서 인류 최초의 원폭 실험인 ‘트리니티 실험’이 성공했다. 핵무기 개발에 환호했던 천재 과학자 오펜하이머는 자신의 손을 떠난 원자탄이 실전에 투입되자 “나는 이제 죽음이요 세상의 파괴자가 됐다”며 자책했다. 과학 연구가 엄청난 살상으로 이어지면서 핵무기 회의론자가 된 그의 깨달음을 ‘오펜하이머 모멘트’(Oppenheimer Moment)라고 부른다.

미국의 인공지능(AI) 방산기업 팔란티어가 지난 19일 소셜미디어(SNS)를 통해 “국가안보를 위해 기술 기업들이 적극 기여해야 한다”며 ‘AI 무기화’를 적극 옹호하고 나섰다. 팔란티어는 알렉스 카프 최고경영자(CEO)의 저서 ‘기술공화국 선언’을 22개 항으로 요약 게시했다. 1번 조항은 ‘실리콘밸리는 자신들의 성장을 가능케 한 국가에 도덕적 빚이 있으므로 국가 방위에 적극 참여해야 한다’는 것이다.

팔란티어의 AI는 방대한 데이터를 활용해 전쟁에서 타격 대상을 식별하거나 우선순위를 정해 주는 의사결정을 지원한다. 팔란티어의 시스템은 미국이 진행한 니콜라스 마두로 전 베네수엘라 대통령 체포 작전과 알리 하메네이 전 이란 최고지도자 제거 작전에 활용됐다. 독일 프랑크푸르트 괴테대학에서 철학박사 학위를 딴 카프 CEO는 그동안 AI의 파괴력을 활용해 서구 문명을 지켜야 한다고 주장해 왔다. 베네수엘라·이란 작전에 팔란티어와 함께 그 기술이 활용된 AI 기업 앤트로픽이 AI 무기화에 반대하며 미 국방부와 소송전까지 벌이는 것과는 대조적이다.

팔란티어의 ‘AI 무기화’ 옹호가 자신들의 기술력을 이용해 정책과 정치에 영향력을 미치려는 시도(영국 가디언)라는 시각도 있다. AI와 로봇 투입으로 정부는 전쟁을 쉽게 시작하고 방위산업체는 막대한 돈을 벌 수 있는 환경을 조장한다는 것이다. 팔란티어의 ‘기술공화국 선언’이 인류를 대량 살상과 기술 진보의 경계로 밀어넣는 AI 시대의 ‘오펜하이머 모멘트’가 되는 것은 아닐까. 마음이 편치 않다.

박성원 논설위원