AI가 아냐, 거대 기업이 문제야

특이점의 신화/장가브리엘 가나시아 지음/이두영 옮김/글항아리/200쪽/1만 5000원

지난해 3월 구글의 인공지능 알파고와 이세돌 9단의 바둑 대결은 전 세계 사람들에게 인공지능의 위력을 단단히 각인시키는 계기가 됐다. 알파고에 패한 이세돌이 “이세돌이 진 것이니 인류의 패배가 아니다”라고 말했지만 많은 사람들은 인간을 능가할지도 모를 인공지능의 출현에 막연한 불안감을 느꼈다.

로봇이 스스로 학습해 주체적으로 행동하며 인간 사회를 혼란에 빠뜨릴지도 모른다는 설정은 그동안 ‘터미네이터’, ‘A.I.’, ‘엑스 마키나’ 등 영화에서 많이 소비되던 주제다. 실제 과학계도 인공지능의 잠재된 위험성에 대해 경고하고 나섰다. 이 책의 서두에는 2014년 5월 우주 물리학자 스티븐 호킹이 영국 일간지 ‘인디펜던트’에 낸 성명을 소개한다. 호킹 박사는 기술이 눈 깜짝할 사이에 발전하고 제어 불능 수준까지 이르러 인류를 위기 상황으로 몰고 갈 것이라고 경고했고, 전 세계 쟁쟁한 과학자들도 이에 동조해 서명했다.

그러나 1970년대부터 인공지능을 연구해 온 저자는 과학자들이 이처럼 예언자적 태도를 취하는 것은 과학적이지 못하다고 비판한다. ‘특이점’이라는 것은 인공지능이 인간의 지능을 넘어서는 시점을 가리키는 표현인데, 제목이 말해 주듯 현재 거론되고 있는 특이점에 대한 각종 기대와 우려는 과학적 근거 없는 ‘신화’일 뿐이라는 것이다.

특이점 신화 뒤에는 거대한 기업들이 존재하고 있다. 이 기업들은 정보기술(IT)의 개발을 주도하면서도 그 기술이 인류를 파멸로 내몰 수도 있다고 경고하는 교묘한 전략을 사용하는데, 이에 대해 저자는 “방화범인 동시에 소방관인 형국”이라고 꼬집는다. 대표적인 IT 기업인 구글은 기술이 인간사회의 규범과 선의 기준을 넘지 못하도록 하는 국제적인 윤리헌장을 제정하는 윤리위원회의 설립을 약속했지만, 또 다른 한편에서는 인터넷에 게시된 정보의 삭제를 요구하는 개인의 요청을 계속 무시하고 있다.

특히 이들 기업은 개인에 대한 통제력이 약화된 국가를 대신해 정보보안이나 금융거래 서비스를 주도하며 개인에 대한 지배력을 강화하고 있다. 결국 우리가 걱정하거나 감시해야 할 대상은 기계 자체가 아니라 기계에 목적성과 규칙을 정하는 기업들이다.

신융아 기자