“생명 구하는 AI” 페이스북, 인공지능 기술로 자살 막는다

최근 개인 생방송 서비스인 ‘페이스북 라이브’ 이용자가 스스로 목숨을 끊는 일이 연달아 발생하자 페이스북이 인공지능(AI) 기술을 동원해 이용자 자살 방지에 나섰다.

페이스북은 1일(현지시간) 블로그를 통해 AI로 이용자 게시물 내용에서 자해 또는 자살 징후를 파악하고, 라이브 방송에서 자살 의심 행동이 보이면 손쉽게 신고할 수 있도록 시스템을 갖췄다고 밝혔다고 UPI 통신 등이 2일 보도했다.

페이스북이 개발한 AI 알고리즘은 이용자의 게시물에 ‘우울’, ‘고통’과 같은 내용이 나오거나 친구들이 “너 괜찮니?”, “네가 걱정된다”는 내용의 댓글을 달 경우 이를 선별한다.

이후 페이스북 내 직원들이 이를 재빠르게 검토하고 자해 위험이 있는 이용자에게 도움을 주겠다고 연락을 한다.

버네사 칼리슨-버치 페이스북 제품 매니저는 “위급한 상황에서는 속도가 생명이라는 점을 알고 있다”며 이 모든 과정이 신속히 진행된다고 설명했다.

또 국립섭식장애협회, 국립자살방지생명선 등 지원 단체와 페이스북 메신저를 통해 대화를 나눌 수 있도록 지원한다.

페이스북 라이브 이용자가 위험한 행동을 하는 경우에는 시청자가 ‘신고하기’ 기능을 통해 ‘자살 또는 자해’나 ‘폭력’ 등의 분류 버튼을 눌러 상황을 알릴 수 있다.

또 다른 친구와 연락하거나 구조단체에 연락하는 등 시청자가 할 수 있는 지원 방법을 제시한다.

이 같은 기능은 우선 미국 전역에서 시험 운영할 예정이다.

연합뉴스