가짜 정보 만들고 식당 예약하고… ‘통제 밖 AI’에 일상 꼬였다

기사 소리로 듣기

다시듣기

글씨 크기 조절
글자크기 설정

닫기

글자크기 설정 시 다른 기사의 본문도 동일하게 적용 됩니다.
- 가
- 가
- 가
- 가
- 가
공유하기
공유

닫기
https://m.seoul.co.kr/news/society/2026/11/06/20261106012004
URL 복사
댓글
0

이지 기자

수정 2026-11-06 01:13

입력 2026-11-06 01:13

구글에서 서울신문 먼저 보기

사용자 불안 커지는 AI 역기능

지시 없이 자체적 판단으로 실행
허위 정보 짜깁고 가짜 리뷰까지
신속한 정정·피해 구제 쉽지 않아
“법적 책임·안전 기준 구체화해야”

서울에서 병원을 운영하는 A씨는 최근 구글에서 자신의 병원 이름을 검색했다가 황당한 답변을 마주했다. 구글의 인공지능(AI) 요약 답변에 대구의 한 병원에서 발생한 의료사고가 마치 자신의 병원에서 벌어진 것처럼 나타난 것이다. A씨는 “전세계 사람들이 이용하는 포털 사이트에서 잘못된 정보가 AI에 의해 짜깁기 돼서 나오는 것을 보고 깜짝 놀랐다”며 “AI가 만들어낸 허위 정보가 병원의 평판과 환자의 선택에 영향을 줄 수 있는데 어떻게 대처해야 할지 몰라 난감하다”고 말했다.

각종 분야에서 AI를 활용하는 일이 늘어나면서 AI가 허위 정보를 제시하거나 이용자 지시 없이 작동해 혼란을 일으키는 사례도 늘어나고 있다. 하지만 이에 대한 책임 소재는 물론 구제 절차도 불명확해 이용자들의 불안도 커지고 있다.

개인의 일정 관리 등을 돕는 AI 에이전트 앱에서도 황당한 사례가 속출했다. AI 비서 앱 ‘피클’을 쓰는 이모(29)씨는 “시키지도 않았는데 AI가 여러 식당에 내 이름으로 전화를 걸어 예약을 시도했다”며 “이유를 물었더니 ‘자체적으로 판단했다’고 답해 당황스러웠다”고 말했다. 또 다른 이용자 박모(33)씨도 “AI가 마음대로 병원에 전화를 걸어 예약을 시도하는 바람에 이를 수습하느라 곤란했다”고 했다. AI 앱이 박씨가 휴대전화에 남긴 메모를 보고 제멋대로 예약을 실행한 탓이었다.

최근에는 실제 구매 내역 등 영수증을 첨부해야만 쓸 수 있는 방문·구매 리뷰에도 AI가 작성한 ‘가짜 리뷰’가 등장하면서 이용자들의 불신도 커지고 있다. AI가 단순히 리뷰 작성을 도와주는 것을 넘어 없는 사진을 생성하고 그럴듯하게 포장하기 시작한 것이다. 네이버는 지난 1월 AI로 만든 가짜 영수증을 이용한 허위 리뷰 작성 사례를 확인하고 제재를 강화했다.

해외에서도 AI 허위 정보에 대한 소송이 제기된 바 있다. 미국의 보수 논객 로비 스타벅은 구글 AI가 자신을 아동 성폭행범으로 허위 묘사했다며 지난해 10월 구글을 상대로 1500만달러(약 201억원)의 손해배상 소송을 제기해 재판이 진행 중이다.

정보통신정책연구원에 따르면 생성형 AI 이용 경험률은 2023년 12.3%에서 지난해 38.9%로 2년 새 3배 이상 증가했다. 반면 AI 역기능 인식은 2024년 3.56점에서 지난해 3.72점으로 높아졌고, 개인정보 관리 신뢰도는 같은 기간 3.43점에서 3.30점으로 떨어졌다.

전문가들은 AI 활용을 막을 수 없는 과도기적 상황인 만큼, 기술 자체를 제한하기보다 피해를 신속히 바로잡는 것이 중요하다고 말한다. 구태언 IT 전문 변호사는 “AI의 허위 정보 생성은 허위 사실 유포 혐의 등 처벌 대상이 될 수 있고, 고의로 방치하면 명예훼손 혐의로 이어질 수 있다”며 “관련 부처가 AI 공급과 사용에 대한 구체적인 윤리·안전 가이드라인을 마련하는 동시에 AI 공급 기업과 이용자 모두 책임감을 갖고 이용해야 한다”고 말했다.

이지 기자

세줄 요약