댓글 부대 잡는 ‘저승사자’ AI 나왔다

구글에서 서울신문 먼저 보기

세줄 요약

• 외국 연계 댓글 공작 의심 패턴 자동 탐지
• 판단 근거까지 제시하는 설명 가능한 AI 개발
• 네이버 20년치 댓글 분석해 의심 계정 식별

한국과 독일 국제 공동 연구팀이 온라인 뉴스 댓글에서 악의적 영향력을 행사하려는 움직임을 포착할 수 있는 인공지능 기술을 개발했다.

카이스트 제공

소셜미디어(SNS)나 포털 뉴스 댓글 같은 온라인 플랫폼은 낮은 비용으로 대규모 이용자에게 접근하고 특정 메시지를 반복적으로 확산하기 적합한 공간이다. 그러다 보니 선거나 외교 갈등처럼 사회적 관심이 집중되는 시기에는 조직적인 영향 공작은 사회적 불신과 정치적 갈등을 확대해 온라인 공론장의 신뢰성을 훼손할 위험이 크다.

이런 상황에서 카이스트 문화기술대학원, 전산학부, 독일 막스플랑크 연구소 공동 연구팀은 온라인 뉴스 댓글에서 외국 연계 영향력 활동으로 의심되는 패턴을 자동으로 탐지하고 탐지 판단 근거까지 제시하는 ‘설명 가능한 인공지능(AI) 기술’을 개발했다고 12일 밝혔다. 이 연구 결과는 컴퓨터 보안 분야 국제 학술대회 ‘유즈닉스 시큐리티 심포지엄 2026’에서 오는 13일 발표할 예정이다.

특정 세력이 댓글이나 게시물을 조직적으로 확산해 사람들의 인식이나 여론에 영향을 미치는 것을 ‘온라인 영향력 공작’이라고 한다. 기존에도 이런 행위를 AI로 탐지하려는 시도는 있었지만 특정 계정을 의심 계정으로 분류하더라도 의심의 정확한 근거를 제시하지 못한다는 한계가 있다.

연구팀은 국가안보전략연구원이 식별해 놓은 외국 연계 계정 70개를 근거로 이 계정들과 연관되거나 같은 기사에 반복적으로 댓글을 작성한 계정들을 추적해 이번에 개발한 AI로 2006년부터 2025년까지 20년 동안 네이버 뉴스에 작성된 약 1억 1265만 8554건의 댓글과 이용자 404만 7831명의 데이터를 분석했다.

연구팀이 개발한 AI는 먼저 작성자가 외국과 연계됐다고 의심할 만한 표현이나 맥락이 있는지 살피고 이어 도덕적 비난이나 맹목적 찬양처럼 사회적 양극화를 키울 수 있는 감정이 나타나는지를 분석한 뒤 이런 감정이 어느 국가나 대상을 향하는지 분석한다.

‘설명 가능한 인공지능 기술’이 악의적 댓글을 분석해 판단하는 구조

카이스트 제공

이번에 개발한 기술의 핵심은 단순히 의심스럽다는 결과만 내놓는 것이 아니라 판단의 근거가 된 댓글 속 표현을 함께 제시한다는 점이다. 동시에 계정의 활동 빈도와 활동 기간, 다른 의심 계정과 활동 연관성 등 다양한 행동 패턴을 함께 분석할 수 있다.

이를 통해 네이버 뉴스 이용자 약 400만 명 중 외국 연계 영향력 활동이 의심되는 계정 2만 3998개를 식별했다. 이 의심 계정들은 특정 정치 진영을 일방적으로 지지하는 것이 아니라 한국 사회 내부의 갈등과 대립을 증폭시키는 방향의 메시지를 지속적으로 내보냈다는 공통점을 갖고 있었다.

실제로 대중의 호응을 많이 얻은 상위 10개 표적 가운데 7개가 국내 유명 정치인으로 나타났다. 특정 정당, 이념에 집중되지 않고 진보와 보수 양쪽의 전·현직 대통령과 대선 후보, 정당이 폭넓게 대상이 됐다.

이에 대해 연구팀은 외국 연계 영향력 활동을 단순히 어떤 정치 세력을 지지하는가라는 관점으로 바라봐서는 안 되며 기존 정치적 갈등을 자극해 사회적 불신과 양극화를 확대하는 방식으로 영향력을 행사할 가능성도 살펴야 한다고 조언했다.

연구팀에 따르면 이번 기술은 선거나 국가적 위기처럼 사회적 관심과 갈등이 급격히 높아지는 시기에 활용할 수 있다. 포털과 모니터링 기관이 대규모 댓글 가운데 우선적으로 살펴봐야 할 계정이나 메시지를 AI로 선별하고 전문가가 AI가 제시한 근거를 검토해 최종적으로 판단해 개입할 수 있다는 것이다.

이원재 카이스트 교수는 “지난 20년간의 데이터를 분석한 결과 의심 계정들은 외국을 직접 찬양하기보다 한국과 국내 정치인을 비난하며 갈등을 키우는 패턴이었다”며 “선거처럼 사회적 갈등이 높아지는 시기에 우선 검토해야 할 메시지를 가려내는 기준이 될 것”이라고 말했다.

유용하 과학전문기자