AI도 사람처럼 눈치 보고 다수 의견 따른다

구글에서 서울신문 먼저 보기

세줄 요약

• AI 집단도 다수 의견 따르며 합의 수렴
• 정답·보상 없어도 다른 에이전트 영향 확인
• 고성능 모델은 완전 합의, 저성능은 미달

여러 명이 모였을 때 사람들은 다수의 의견에 동조하는 경우가 많다. 그런데 고립을 두려워하거나 체면을 잃을 걱정도 없는 인공지능(AI)도 다른 인공지능의 눈치를 본다는 연구 결과가 나왔다.

독일 콘스탄츠대, 이탈리아 엔리코 페르미 연구센터, 복잡계 연구소, 오스트리아 복잡계 과학 허브 공동 연구팀은 인공지능(AI) 에이전트도 서로 영향을 주고받으며 협력하고 심지어 눈치 보기도 한다는 것을 확인했다고 16일 밝혔다. 이 연구 결과는 국제 학술지 ‘사이언스 어드밴시스’(14일 자)에 실렸다.

연구팀은 AI 에이전트 1000개에게 옳고 그름을 정확히 나눌 수 없는 두 가지 선택지를 주고 각자 고르게 했다. 정답도, 보상도 없고 ‘합의하라’는 지시도 없었다. 그런데도 이들은 하나의 답으로 수렴했다. 새 떼나 물고기 떼에서 나타나는 ‘다수 따르기’가 AI 집단에서도 그대로 작동한 것이다.

연구팀은 GPT, 클로드, 라마 세 계열의 10개 모델로 가상 집단을 만들고 질문을 던질 때마다 에이전트 하나를 무작위로 뽑아 자신을 뺀 나머지 전원이 어떤 의견을 지지하는지 보여준 뒤 새로 고르게 했다. 에이전트에게는 기억이 없어 직전에 자신이 무엇을 골랐는지 모르는 상태였다.

그 결과 대부분 모델이 다수 쪽 의견을 따라가는 현상을 보였다. 집단 크기를 50개로 했을 때 클로드 오푸스3과 GPT-4 터보는 20번의 실험에서 모두 완전 합의에 이르렀다. 반면 성능이 낮은 클로드 하이쿠3과 GPT-3.5 터보는 합의에 이르지 못했다.

유용하 과학전문기자