신뢰 지우는 AI… 방금 통화한 직원도, 화상회의 상대도 ‘가짜’

기사 소리로 듣기

다시듣기

글씨 크기 조절
글자크기 설정

닫기

글자크기 설정 시 다른 기사의 본문도 동일하게 적용 됩니다.
- 가
- 가
- 가
- 가
- 가
공유하기
공유

닫기
https://m.seoul.co.kr/news/economy/IT/2026/09/29/20260929002002
URL 복사
댓글
0

민나리 기자

수정 2026-09-29 00:06

입력 2026-09-28 18:10

구글에서 서울신문 먼저 보기

MS AI 확산 보고서 등 들여다보니

AI봇·딥페이크 기승… 범죄 정교화
직원 음성·화상 활용 기업 피싱 늘어
싱가포르 총리 사칭 52억원 사기도

15~64세 AI 사용 19%… 韓은 41%
국내 사용자 비중 1년 새 15%P 상승

생성형 인공지능(AI)의 확산으로 가상 세계에서 ‘진짜’를 가려내는 일이 더 어려워지고 있다. 사람처럼 대화하는 봇부터 인물의 얼굴과 목소리를 흉내 낸 딥페이크까지 사람과 AI의 경계가 흐려지면서, 무엇을 보고 누구를 믿어야 하는지 판단하는 인간의 기준 자체가 흔들리고 있다.

마이크로소프트(MS)가 28일 발표한 ‘2분기 글로벌 AI 확산 보고서’에 따르면 세계 15~64세 생산연령인구의 생성형 AI 사용률은 18.8%, 한국은 40.6%로 집계됐다. 우리나라 사용자 비중은 최근 1년 사이에 약 15% 포인트나 늘었다.

글로벌 사이버보안 기업 서프샤크가 세계 1722명을 대상으로 소셜미디어(SNS) 댓글의 작성자가 사람인지 AI 봇인지 특정하게 한 실험에서 AI 봇의 댓글을 찾아낸 비율은 40%에 그쳤다. 특히 긍정적이고 친근한 성향을 보인 봇의 탐지율은 38%로 공격적이고 부정적인 봇(50.2%)보다 낮았다. 서프샤크는 정교한 AI 계정이 실제 이용자의 의견에 맞장구치거나 자연스러운 말투를 쓸 경우 의심을 피할 수 있다고 설명했다.

AI가 얼굴과 목소리까지 흉내 내면서 ‘특정인 사칭’ 공격을 파악하는 것도 힘들어졌다. 가트너가 기업 보안 책임자 297명을 조사한 결과 41%가 최근 1년간 직원의 음성통화에서 딥페이크를 활용한 사칭 공격을 경험했다고 답했고, 화상통화에서도 36%가 같은 공격을 겪었다. 공격자들이 기존 피싱에 개인정보와 합성 음성·영상을 결합해 사칭 수법을 더 정교하게 만들고 있다는 게 가트너의 분석이다.

지난 5월 싱가포르에서 한 사업가가 총리실 비서관을 사칭한 연락을 받고 로런스 웡 총리 등이 등장하는 딥페이크 화상회의에 참석했고, 최소 490만 싱가포르달러(약 52억원)를 송금했다. 범인은 공식 문서처럼 꾸민 자료까지 내세워 연락, 문서, 화상회의 등이 진짜처럼 보이게 했다.

미국 연방수사국(FBI) 인터넷범죄신고센터(IC3)에 지난해 접수된 ‘AI 관련’ 신고는 2만 2364건, 피해액은 8억 9334만 달러(약 1조 2177억원)였다. FBI는 생성형 AI로 가짜 프로필과 맞춤형 대화, 음성·영상을 손쉽게 만들 수 있게 되면서 사기범죄에서 설득력이 높아졌다고 분석했다.

사람과 AI를 가르기 위해 만든 기존 장치도 예외가 아니다. 이달 초 GPT-6 아스트라는 인터넷의 ‘나는 로봇이 아닙니다’ 인증을 본뜬 게임 48단계를 모두 통과했다. 이후 별도 연구에서도 무료 오픈소스 AI가 이미지 속 신호등이나 횡단보도를 고르게 하는 구글 리캡차(reCAPTCHA)를 92.6%의 비율로 통과했다. 연구진은 사람이 직접 풀도록 만든 시각형 캡차가 더이상 봇을 막는 충분한 방어선이 되기 어렵다고 지적했다.

민나리 기자

세줄 요약