버추얼 가수 욕하면 유죄, 챗봇 욕하면 무죄… ‘인간성’이 판단 가른다

법원 판결로 본 AI시대 분쟁들

실제 피해자를 특정할 수 있나

“아바타 모욕이 실제 사용자 모욕”
버추얼 아이돌에 손해배상 결론

사람 관여했는지 알기 힘든 AI 상담
성적 수치심 일으키는 문자는 무죄기술 발전에 따른 법적 과도기

음주 뒤 자율주행, 현행법상 유죄
기술 발전해 운전 주체 바뀐다면
향후 음주운전 책임 달라질 수도
“새 기술 상용화 땐 새 입법 필요”

버추얼 아이돌 그룹 ‘플레이브’는 지난해 9월 누리꾼 A씨를 상대로 손해배상 소송을 제기했다. A씨는 7차례에 걸쳐 소셜미디어(SNS) 엑스(X)에 플레이브를 모욕하는 게시물을 올렸다. A씨는 플레이브가 가상의 캐릭터이며 실제 사용자의 신상은 비공개라 플레이브와 실제 사용자 사이에 동일성이 인정될 수 없다고 주장했다. 그러나 법원은 “A씨는 플레이브 멤버 5명에게 각 10만원씩 배상하라”며 플레이브의 손을 들어줬다. 실제 인간이 아닌 버추얼 아이돌 그룹의 ‘인간성’을 인정해 준 것이다.

B씨는 서울 종로구 일대의 불법 주정차를 신고하다가 화가 난 나머지 민원 신고용 콜센터 인공지능(AI) 챗봇 서비스에 욕설을 쏟아냈다. ‘X같은 주차’라고 보낸 것을 시작으로 발언의 수위는 점점 세졌다. 여성의 성기를 비하하는 등성적 수치심을 일으키는 메시지 36차례, 욕설은 39차례나 보냈다. 그러나 법원은 2022년 5월 B씨에게 무죄를 선고했다. 재판부는 “일반인이 채팅을 통한 민원 접수 처리 과정에 AI 상담사 외에 사람 상담사가 관여한다는 것을 인식하기 어려워 보인다”고 지적했다.

15일 법조계에 따르면 AI 등 기술 발전으로 사회가 빠르게 변화하면서 과거 유사 사례를 찾기 어려운 새로운 사건이나 법적 분쟁도 늘어나고 있다. 범죄라는 사실을 인지하지도 못한 채 무심코 저질러 처벌받게 되거나, 반대로 법이 기술의 발전 속도를 따라가지 못해 피해가 발생해도 처벌이 어려운 사례가 늘고 있다.

앞선 두 사례는 기술 안에 숨어 있는 ‘실제 피해자’를 특정할 수 있는지에 대한 법원의 판단이 갈렸다. A씨는 가상의 캐릭터라고 주장했지만 재판부는 버추얼 아이돌 그룹에게 명예가 있다고 판단했다. 재판부는 “현실 세계와 디지털 세계가 융합된 메타버스 시대에 아바타는 사용자의 자기표현, 정체성, 사회적 소통 수단임을 고려할 때 아바타에 대한 모욕 역시 실제 사용자에 대한 외부적 명예를 침해하는 행위로 평가될 수 있다”고 지적했다.

법원이 지난해 7월 신원 미상의 얼굴과 여성의 나체를 합성한 사진을 텔레그램 채널에 올린 C씨에 대해서 무죄를 선고한 사례도 있다. 관련법상 ‘대상자의 의사에 반해 제작·반포된’ 성적 합성물의 피해자는 실존하는 사람이어야 한다는 이유에서다. 재판부는 “AI의 발달로 실제 사람의 얼굴이나 신체와 구별하기 어려운 가상 인물의 그림을 누구나 쉽게 획득할 수 있게 됐고, 실제 사진과 합성한 사진의 구별도 어려워진 것이 현실”이라고 설명했다.

다만 기술이 정교해져 AI와 사람의 구분이 점차 모호해지는 상황에 대한 추가 논의가 필요하다는 지적도 나온다. 서초동의 한 변호사는 “AI를 이용해 특정인과 일부만 닮게 만든 가상 인물의 경우처럼 기술과 실제 사람의 동일성의 범주를 어디까지 인정해야 하는지 등에 대해선 다툼의 여지가 있다”고 말했다.

기술 발전 단계에 따라 법적 과도기에 놓인 영역도 있다. 대표적인 예가 자율주행에 따른 운전자의 법적 책임이다. 현행 도로교통법상 운전의 책임은 운전자에 있다고 명시돼 있다. 이에 술을 마시거나 면허가 없는 상태에서 차량 자율주행 모드로 주행하는 것은 불법이다. 2023년 5월 경남 사천시의 한 도로에서 혈중알코올농도 0.112%인 상태로 주행하다 중앙분리대를 들이받고 도주한 D씨는 “자율주행 기능이 작동 중이라 바로 멈추거나 핸들을 원하는 대로 조작하지 못했다”고 주장했으나 법원은 받아들이지 않았다. “자율주행 중이어도 브레이크를 밟아서 차량을 멈추는 게 가능하고, 도로 바깥에 차를 세우려는 노력이 없었다”는 게 재판부의 판단이었다.

2021년 10월 충남 당진에서 있었던 유사한 사건에 대해 재판부는 자율주행 기술단계 0~5단계를 나열하며 “범행 당시 상용화된 자동차에는 자율주행 기술 2단계까지만 적용돼 있어 가해 차량의 자율주행 시스템이 적용돼 있다 하더라도 피고인이 운전의 주체이므로 음주운전의 책임이 있다”고 밝혔다. 운전의 주체가 바뀐다면 음주운전의 책임이 달라질 수 있다는 여지를 남긴 셈이다.



송지은 법무법인 중현 파트너 변호사는 “향후 인간 개입이 완전히 필요 없는 수준의 자율주행 기술이 상용화될 경우 현재의 도로교통법으로 운전의 범주를 다 포괄할 수 없어 새로운 입법 논의가 필요할 것”이라고 말했다.

김희리 기자