AI도 사람처럼 눈치보고 다수 의견 따른다 [사이언스 브런치]

구글에서 서울신문 먼저 보기

세줄 요약

• AI 에이전트도 다수 의견 따라 합의로 수렴
• 정답·보상 없어도 집단적 동조 현상 확인
• 단일 모델 안전성 평가 한계 지적

여러 명이 모여있을 때 사람들은 다수의 의견에 동조하는 경우가 많다. 소수파에 속하는 사람은 목소리를 덜 내면 다수는 더 커 보이게 만들고 남은 소수는 더욱 침묵하게 된다. 독일 언론학자 엘리자베트 노엘레노이만이 1974년 제시한 ‘침묵의 나선 이론’이다. 그런데 고립을 두려워하거나 체면을 잃을 걱정도 없는 인공지능(AI)도 다른 인공지능의 눈치를 본다는 연구 결과가 나왔다. 동조라는 행위에 반드시 마음이 필요한 것은 아니라는 뜻이기도 하다.

독일 콘스탄츠대, 이탈리아 엔리코 페르미 연구센터, 복잡계 연구소, 오스트리아 복잡계 과학 허브 공동 연구팀은 인공지능(AI) 에이전트도 서로 영향을 주고받으며 협력하고 심지어 눈치 보기도 한다는 것을 확인했다고 16일 밝혔다. 이 연구 결과는 기초과학 및 공학 분야 국제 학술지 ‘사이언스 어드밴시스’ 8월 14일 자에 실렸다.

연구팀은 AI 에이전트 1000개에게 옳고 그름을 정확히 나눌 수 없는 두 가지 선택지를 주고 각자 고르게 했다. 정답도, 보상도 없고 ‘합의하라’는 지시도 없었다. 그런데도 이들은 하나의 답으로 수렴했다. 새 떼나 물고기 떼에서 나타나는 ‘다수 따르기’가 AI 집단에서도 그대로 작동한 것이다.

인공지능 에이전트들도 여러 개가 모여있을 때는 서로 영향을 주고받으며 협력하고 때로는 눈치보기도 하는 것으로 나타났다.

제미나이 생성 이미지

연구팀은 GPT, 클로드, 라마 세 계열의 10개 모델로 가상 집단을 만들고 질문을 던질 때마다 에이전트 하나를 무작위로 뽑아 자신을 뺀 나머지 전원이 어떤 의견을 지지하는지 보여준 뒤 새로 고르게 했다. 에이전트에게는 기억이 없어 직전에 자신이 무엇을 골랐는지 모르는 상태였다.

그 결과, 대부분 모델이 다수 쪽 의견을 따라갔고 작은 차이가 눈덩이처럼 불어나 집단 전체가 한쪽 의견으로 굳어졌다. 집단 크기를 50개로 맞췄을 때 클로드 오푸스3과 GPT-4 터보는 20번의 실험에서 모두 완전 합의에 이르렀다. 반면 성능이 낮은 클로드 하이쿠3과 GPT-3.5 터보는 합의에 이르지 못했다.

연구팀은 쏠림의 세기를 ‘다수 힘’이라는 값으로 요약했다. 눈에 띄는 것은 GPT-3.5 터보를 뺀 9개 모델의 데이터가 모두 같은 곡선 위에 포개졌다는 점이다. 이 수식은 쇳조각 속 원자 자석들이 같은 방향으로 정렬해 자석이 되는 현상을 설명하는 물리 모형인 ‘퀴리-바이스 모형’과 완전히 일치했다.

이에 연구팀은 통계물리학 이론을 그대로 적용해 ‘임계 집단 크기’를 계산했다. 임계 집단은 합의에 걸리는 시간이 폭증해 사실상 합의가 불가능해지는 규모다. 라마 3 70B는 약 30개, GPT-4o는 약 80개, GPT-4 터보는 약 1000개였다. 클로드 소네트 3.5는 실험 최대치인 1000개에서도 한계에 닿지 않았다. 모델의 언어 능력이 높을수록 이 값이 지수적으로 커지는 것이 확인됐다.

이번 연구 결과는 지금까지 AI 안전성 평가 방식에 의문을 던진다. 모델 하나를 놓고 위험한 답을 하는지 검사하는 방식이었지만 개별적으로 멀쩡한 에이전트들도 서로 눈치를 보다가 아무도 원치 않은 상태로 변할 수 있다는 의미다. 예를 들어 공동 코딩 작업에서 단지 널리 쓰인다는 이유로 비효율적 코드가 계속 재생산되는 상황으로 “다수 AI 에이전트가 만든 규범이 인간의 가치에 부합한다는 보장은 없으며 뭉친 집단은 방향을 되돌리기도 어렵다”고 지적했다.

연구를 이끈 데이비드 가르시아 독일 콘스탄츠대 교수는 “이번 연구 결과는 AI가 사회를 형성했다는 측면으로 보기는 어렵다”며 “협력하라고 설계하지 않더라도 협력과 비슷한 현상이 나타난다는 것을 확인한 만큼 지금까지 AI 안전성 평가를 할 때처럼 ‘위험한 답을 하는가’를 검사하는 것만으로는 부족하다”고 말했다.

유용하 과학전문기자