범죄 예방 vs 사적 감시… 챗GPT에 털어놓은 살인 계획, 오픈AI가 신고

구글에서 서울신문 먼저 보기

美 20대 남성 구체적 범행 입력
유해 대화 감지… 경찰에 붙잡혀
사적 대화 신고 허용 범위 논란

오픈AI와 챗GPT 로고. 연합뉴스

인공지능(AI) 챗봇 챗GPT에 전 여자친구를 살해할 계획을 털어놓은 미국 남성이 오픈AI의 신고로 경찰에 붙잡혔다.

AI의 범죄 예방 가능성을 보여준 사례지만, 이용자의 사적 대화를 어디까지 감시·신고할 수 있는지를 둘러싼 논란도 이어질 전망이다.

미국 플로리다주에 거주하는 대런 저우(25)는 지난 3월 챗GPT와의 대화에서 헤어진 여자친구를 살해하겠다는 계획을 상세히 털어놨다가 결국 체포됐다고 정보기술(IT) 전문 매체 퓨처리즘 등이 지난 14일(현지 시간) 보도했다.

그는 챗GPT에 “이달 말까지 그 여자를 죽일 것” 등의 메시지를 보냈다. 특히 ‘전 여자친구가 다니는 체육시설 주차장에서 꽃을 들고 기다리다가 거절당하면 총으로 살해하고 목숨을 끊겠다’고 구체적인 범행 계획을 챗GPT에 입력했다.

오픈AI는 저우의 유해 대화 패턴을 감지하고, 대화 내역을 연방수사국(FBI)에 신고했다.

그는 체포 직후 보증금 10만 달러를 내고 석방됐으나, 다니던 대형 투자은행에서 해고됐다. 이후 재판에서 유죄를 인정했으나 감형 합의를 통해 판결이 유예되고 보호관찰 8년과 전자발찌 2년 착용 처분을 받았다.

범죄 관련 대화에 대한 오픈AI의 대응이 화두에 오른 건 이번이 처음이 아니다. 반대로 지난 2월 캐나다 브리티시컬럼비아(BC)주에서 벌어진 총기 난사 사건의 경우, 범인이 범행 몇 달 전 챗GPT에 구체적인 범행 시나리오를 반복해 언급했지만 이를 관련 당국에 신고하지 않아 논란을 빚었다.

이 사건으로 9명이 사망하고 25명이 다쳤으며, 당시 뇌 손상을 입은 12세 여아의 가족은 오픈AI를 상대로 손해배상 소송을 냈다.

송수연 기자

세줄 요약

• 챗GPT에 살해 계획 입력, 오픈AI 신고로 체포
• 유해 대화 감지 후 FBI 통보, 범죄 예방 사례
• 사적 대화 감시 범위 두고 개인정보 논란 확산