[노명우의 알고리즘 밖에서] 사춘기 맞은 은총의 기계

구글에서 서울신문 먼저 보기

인터넷에 처음 접속했던 날의 경이는 지금도 생생하다. 컴퓨터를 전자화된 타자기 정도로만 쓰던 시절, 대학의 전산망이 서로 연결되었다는 말을 들었다. 브레멘대학에서 공부하던 나는 소문의 진위를 확인하려 중앙전산실로 갔다. 브레멘의 컴퓨터로 아테네대학의 서버에 원격 접속했다. 놀랍게도 아테네 서버에 저장되어 있던 그리스어 플라톤 전집이 몇 번의 키보드 조작만으로 브레멘의 화면에 내려받아졌다. 그 순간 감지했다. 존 레넌이 노래 ‘이매진’으로 호소했던 국경도 국가도 종교도 소유도 없는 새로운 시공간을 허락하는 시대가 열리고 있다고.

1996년 존 페리 발로는 ‘사이버공간 독립선언문’을 발표했다. 그는 국가가 사이버공간을 지배할 권리가 없다고 선언했다. 인터넷 초창기 사람들은 인종, 경제력, 군사력, 출신에 따른 특권과 편견을 넘어 누구에게나 열려 있는 세계를 꿈꿨고 자신을 한 국가의 시민이 아니라 가상공간의 코스모폴리탄, 즉 네티즌이라 자칭했다.

인공지능(AI)에 대한 기대는 하늘을 찌르고 주식시장을 AI 관련 빅테크 기업이 주도하는 2026년 봄, 미국 국방부와 AI 기업 앤트로픽의 의견이 대립했다. 결국 국방부는 앤트로픽을 ‘공급망 위험’으로 지정했고, 팔란티어는 자사의 메이븐 스마트 시스템에서 클로드를 걷어내야 하는 처지가 됐다. 오늘의 AI는 국가와 거대기업, 군사조직이 서로 차지하려 다투는 전략 자산이 됐다.

앤트로픽의 최고경영자(CEO) 다리오 아모데이는 카프처럼 자신의 생각을 글로 써서 대중에게 공유하는 일을 주저하지 않는다. 아모데이는 리처드 브라우티건의 시 ‘사랑스러운 은총의 기계’의 제목을 따온 에세이에서 AI가 질병과 빈곤을 줄이고 인간의 삶을 개선할 수 있는 가능성을 지닌다고 예견했다. 21세기판 이매진이다.

아모데이는 최근의 에세이 ‘기술의 사춘기’에서 AI로 인한 위험에 주목한다. 아모데이는 사춘기에 접어든 AI가 스스로 목표를 설정해 인류에게 적대적으로 행동할 가능성, 테러리스트가 이를 악용해 생물무기를 개발할 위험, 독재자나 특정 독점 기업이 AI를 통해 세계 권력을 손에 쥐고 대중을 감시할 위험 등을 나열하며 앤트로픽도 이 우려로부터 완전히 자유롭지 않다고 고백했다.

이 고백을 듣는 앤트로픽만큼은 여타 빅테크 기업과 다른 길을 걸을 것이라 믿어도 되는 것일까? 우리는 구글이 알파벳 체제로 재편하면서 ‘악(evil)은 되지 말자’라는 한때 구글의 윤리지향성을 상징했던 구호를 슬며시 삭제한 것을 목격했다. 아모데이가 에세이를 고쳐 쓰지 말라는 법도 없지 않은가? 그는 기업의 CEO이지 발로를 추종하는 사회 운동가가 아니며 팔란티어에 맞서 싸우는 천사도 아니다. AI의 은총에 대한 기대를 저버리지 않되, AI를 향한 의심만은 사춘기 없이 성숙해야 한다. 시민의 감시가 뒷받침되지 않는 한, 기업의 윤리 강령은 시장의 이해관계에 따라 쉽게 지워질 수 있는 잉크로 쓰인 문서에 불과하다.

노명우 아주대 경제정치사회융합학부 교수

노명우 아주대 경제정치사회융합학부 교수