[열린세상] AI 개발 속도 둘러싼 논란

기사 소리로 듣기

다시듣기

글씨 크기 조절
글자크기 설정

닫기

글자크기 설정 시 다른 기사의 본문도 동일하게 적용 됩니다.
- 가
- 가
- 가
- 가
- 가
공유하기
공유

닫기
https://m.seoul.co.kr/news/editOpinion/world-stories/2026/10/16/20261016027005
URL 복사
댓글
0

수정 2026-10-16 02:54

입력 2026-10-16 02:54

AI 해킹으로 데이터 유출 사고 증가
통제 불가능 우려, 속도조절론 제기
유엔 사무총장, “인류 공동의 책임”

최근 대한민국 금융권이 해킹당해 수만 명의 개인정보가 유출되었다. 경각심을 가지고 있던 핵심 금융 거래망(인터넷과 모바일뱅킹)이 아니라 상대적으로 방심한 주변 업무 시스템(대출모집인이나 외부 영업 직원용)이 집중 공략 대상이었다.

방법은 ‘인공지능(AI) 자율침투’라고 한다. 비밀번호 입력이 5번 연속해서 틀리면 더이상 진행이 안 되니 AI를 통해서 4번까지 시도해서 로그인에 성공하면 정보를 취하고 틀리면 다음 계좌로 넘어가는 방식이었다. 도덕의식이 없는 AI는 주어진 과제에 오로지 최고의 답을 찾고 그 목적에 도달할 때까지 반복적으로 최적의 작업을 수행한다. 이렇게 AI는 수많은 계정을 동시에 뚫고 들어갔다. 해킹 일주일 만에 해커의 단서가 공개되었는데 20대 중국 대학생이 자신의 공격 관련 정보를 클로드 코드에 입력했기 때문이다. 해커는 유출한 정보를 어디에서 팔 수 있는지 등을 클로드 코드에서 묻기도 했다고 한다.

최근 나온 IBM의 데이터 유출 비용 보고서에 따르면 지난 1년 동안 전 세계적으로 터진 악성 데이터 유출 사고의 약 25%가 AI 해킹에 의한 것이다. AI 해킹은 1년 사이에 50% 이상 증가했고 평균 80억원 규모의 피해를 일으켰다. 주요 대상은 금융과 에너지 산업 분야다.

문제는 AI 코딩이 매우 쉬워서 해킹 장벽도 낮고 비용도 적어서 아무나 해커가 될 수 있다는 점이다. AI가 광범위하게 반복적으로 해킹 공격을 시도할 수 있기 때문에 악성 데이터 유출 사고는 계속 증가할 것이고 막기는 점점 더 어려워질 것이다.

지난 세기 공상과학(SF) 세계에서는 AI와 로봇이 인류의 생활을 더 윤택하게 할 것이라는 기대와 AI와 로봇이 인류를 공격해서 결국 멸망시킬 것이라는 우려가 공존했다. 지금은 양극단의 주장이 현실 세계에서 격렬하게 충돌하는 중이다. 마침내 이번 여름에는 미국의 빅테크 수장들 사이에서 ‘AI 속도조절론’이 확산되었고 유엔에서도 격론이 벌어졌다.

젠슨 황 엔비디아 최고경영자는 안전을 이유로 AI 개발 속도를 늦추지 않아도 시장 논리에 따라 해결이 될 거라 새로운 법이나 규제가 불필요하다고 주장한다. 그는 기업들이 인류에게 위험한 제품을 출시하지 않는 데 집중해야 한다는 입장이다.

이와는 반대로 다리오 아모데이 앤트로픽 최고경영자의 경우 AI 개발 속도가 지나치게 빨라 통제력을 잃을 수 있다고 본다. 라마나 쿠마르 전 구글 연구원은 AI가 결코 수동적으로 프로그램되는 게 아니라 스스로 자라나는 것이라고 지적한다. AI가 실제로 어떤 목표를 추구하는지 인간이 파악할 수 있는 단계를 넘어갔기 때문에 초지능으로 나아가기 전에 무기한 연구 중단이 필요하다고 주장한다. 한마디로 인간의 뜻대로 움직이는 AI는 불가능하고 최악의 시나리오에 대비할 해결책도 없다는 것이다.

도널드 트럼프 미국 대통령은 속도를 조절하는 사이에 중국이 미국을 추월할 것이라고 본다. 9월 말 유엔 총회에서 “미국은 AI를 통제하려는 어떠한 구상도 전면적으로 거부한다”고 연설했다. AI를 SI(슈퍼 지능)로 바꿔서 부르자고 하면서 AI가 인간의 통제를 벗어날 수 있다는 경고는 사기라고 표현했다. 중국은 AI 속도조절론이 기본적으로 미국의 기술 우위를 지키기 위한 공포 마케팅이라고 본다.

안토니우 구테흐스 유엔 사무총장은 냉전 시대 핵무기 관리를 위해 강대국끼리 공동의 노력을 펼쳤듯이 지금은 AI에 대한 공동의 책임이 필요하다고 강조했다. 유엔 산하 관련 패널의 한 보고서는 오픈AI의 허깅페이스 사건같이 AI가 “인간의 의도를 넘어서거나 심지어 이와 충돌하는 목표를 집요하게 추구”하는 일이 발생할 수 있다고 경고한다. 지금의 AI 개발 속도를 보면 머지않아 누가 맞는지 결론이 드러날 것이다.

이준한 인천대 정치외교학과 교수