“감히 중국인을 체포해?” 등 3400만뷰… AI 가짜영상 만든 30대 구속

경찰 보디캠 촬영 같은 AI 영상 제작
AI로 음란물도 만들어 SNS로 판매

‘순찰 24시’라는 유튜브 채널을 운영하면서 경찰 보디캠으로 찍은 것처럼 보이는 인공지능(AI) 생성 허위 영상물을 올려온 30대 남성이 구속됐다고 2일 경기북부경찰청 사이버수사대가 밝혔다. 사진은 A씨가 만든 AI 허위 영상물 일부 장면. 경기북부경찰청 제공

경찰관이 112 신고 현장에 출동해 보디캠으로 찍은 것처럼 보이는 인공지능(AI) 허위 영상물을 제작해 유튜브에 올린 30대 남성이 경찰에 붙잡혔다.

경기북부경찰청 사이버수사대는 전기통신 기본법 위반 등 혐의로 30대 남성 A씨를 구속했다고 2일 밝혔다.

A씨는 지난해 10월부터 약 2개월간 ‘순찰 24시’라는 유튜브 채널을 운영하면서 ‘여장남자 여성 탈의실 신고 출동’, ‘중국인 난동 체포 영상’, ‘부천역 인터넷 BJ 체포 영상’, ‘아파트 복도 흡연 신고 출동 영상’ 등 경찰이 실제로 사건 현장에 출동해 보디캠으로 찍은 듯한 AI 영상을 올린 혐의를 받는다.

A씨는 채널 소개 글에 ‘경찰의 시선으로 사건 현장을 본다. 실화를 기반으로 한 AI 보디캠 영상’이라고 적었다. 그러나 개별 영상에는 AI로 만든 가짜 영상이라는 알림이 없었고, AI 제작 영상을 표시하는 워터마크를 지우기도 했다.

이 때문에 A씨가 만든 허위 영상물을 본 일부 시청자는 실제 상황으로 오인하기도 했다.

A씨가 올린 허위 영상물 일부. 경기북부경찰청 제공

이러한 영상들은 유튜브뿐만 아니라 인스타그램, 틱톡, 페이스북 등에 짧은 영상(숏폼) 형태로 게재되며 총 3400만회 이상의 조회수를 기록했다.

경찰은 해당 영상들이 공권력에 대한 국민적 신뢰를 훼손한다고 판단해 A씨를 입건해 구속했다.

영상들은 대부분 챗GPT나 그록 등으로 만들어진 것으로 전해졌다. 경찰 관계자는 “초반에 만든 영상은 상당히 어설펐지만, 시간이 지날수록 영상의 질이 향상됐다”고 전했다.

경찰은 압수물을 분석하는 과정에서 A씨가 해외 유료 구독형 소셜미디어(SNS) 채널을 운영하면서 AI 음란물을 제작·판매한 사실을 추가로 밝혀냈다.

또 무허가 사설 선물거래 홈트레이딩시스템(HTS) 및 투자 리딩방 운영에 가담해 3000만원 상당의 부당이득을 취한 사실도 확인했다.

이정수 기자