“말하지 않아도 알아요” 눈치 없는 인간, 눈치 있는 AI로 대체되나
유용하 기자
수정 2026-09-10 11:07
입력 2026-09-10 11:07
카이스트-MS연구소 아시아 연구팀
뇌파로 사람 반응과 의도 읽는 AI 개발
스마트폰과 소셜미디어(SNS)로 소통을 하는 경우가 많다 보니 사람을 직접 대면하는 경우가 점점 줄면서 상대의 비언어적 신호를 알아차리지 못하는 사람들이 늘고 있다. 다시 말하면 ‘눈치 없는’ 사람들이 많아지고 있다는 말이다. 이런 상황에서 사람이 일일이 지시를 내리지 않아도 인공지능(AI)이 사람의 반응을 빠르게 알아채 스스로 행동을 고치는 기술이 등장했다.
MBC 무한도전 캡처
카이스트 뇌인지과학과, 마이크로소프트(MS)연구소 아시아 공동 연구팀은 사람의 뇌파를 이용해 AI를 실시간으로 원하는 대로 작동시킬 수 있는 차세대 뇌-컴퓨터 인터페이스(BCI) 기술 ‘신경 가치 정렬’(NVA)를 개발했다고 10일 밝혔다. 뇌파로 사람과 AI의 인지적 불일치를 포착해 AI가 사람의 목표에 맞춰 행동을 수정하는 기술로 ‘눈치 빠른 AI’가 등장했다고 볼 수 있다. 이번 연구 결과는 사이버네틱스 분야 국제 학술지 ‘IEEE 트랜잭션스 온 사이버네틱스’ 에 실렸다.
AI를 원하는 목표에 맞춰 작동시키기 위해서는 사람이 무엇을 원하는지 정확히 파악하도록 해야 한다. 생성형 AI의 경우 예전 컴퓨터 프로그래밍을 할 때처럼 프로그램 언어를 따로 배울 필요 없이 자연어로도 명령이 가능하지만 원하는 바를 정확히 프롬프트해야 하고 미세 조정이 필요하기도 하다. 이처럼 AI는 주로 사람의 말, 행동, 몸짓 등 외부 정보를 바탕으로 의도를 추정했다. 그렇지만 같은 행동이라도 목적이 다른 경우가 적지 않다. 물컵을 집더라도 마시기 위한 것인지 다른 사람에게 건네려는 것인지 구분이 쉽지 않다. 이런 ‘목적-행동 모호성’ 때문에 AI가 사람의 의도를 잘못 이해하면 다시 명령하거나 행동을 교정해야 한다.
연구팀은 사람이 예상과 다른 상황에 맞닥뜨렸을 때 뇌에서 무의식적으로 발생하는 ‘예측 오차’에 주목했다. 뭔가 잘못된 행동을 보면 뇌에서는 자기도 모르게 ‘이게 아닌데’라는 신호가 발생한다. 연구팀은 AI가 목표 자체를 잘못 이해했을 때 나타나는 ‘보상 예측 오차’와 목표는 맞지만 행동 과정이나 방식이 예상과 다를 때 나타나는 ‘상태 예측 오차’로 구분했다.
연구팀은 실험 대상자에게 AI가 작업하는 모습을 지켜보게 하면서 실시간 뇌파(EEG)를 측정했다. 관찰 결과 실제로 목표 자체를 잘못 이해했을 때와 행동 방식이 잘못됐을 때 사람의 뇌는 서로 다른 신호를 보낸다는 사실을 확인했으며 두 가지 오류가 동시에 발생했을 때 나타나는 뇌파 패턴도 발견했다.
연구팀은 이를 바탕으로 딥러닝으로 뇌파만으로 사람이 AI 행동을 어떻게 받아들이고 있는지를 구분하는 기술을 개발했다. 사람의 뇌 신호를 AI에 실시간으로 전달해 스스로 행동을 고치도록 한 ‘신경 가치 정렬 기반 인간-AI 시너지’ 알고리즘을 만들었다. 상태 예측 오차가 감지되면 AI는 “원하는 목표는 맞지만 방법이 잘못됐다”고 판단해 재빨리 행동 방식을 바꾸고, 보상 예측 오차가 나타나면 “목표 자체를 잘못 이해했다”고 판단해 사람이 원하는 것이 무엇인지 다시 찾게 한 것이다. 시뮬레이션 결과 갑자기 목표나 행동이 바뀌어야 하는 불확실한 상황에서도 기존 방식보다 빠르게 변화에 적응하는 것으로 나타났다.
카이스트 제공
연구팀에 따르면 이번 기술은 가정이나 산업 현장에서 사용되는 피지컬 AI 로봇이 사용자의 의도를 보다 자연스럽게 파악하고 행동을 조정하는 데 활용될 수 있다. 또 자율주행차가 운전자의 생각을 빠르게 반영하거나 말을 하거나 몸을 움직이기 어려운 환자가 의료·재활 로봇을 제어하기도 하고 학생의 인지 상태에 맞춰 학습을 돕는 기술로도 확장될 수 있다.
연구를 이끈 이상완 카이스트 석좌교수는 “이번 연구는 눈에 보이는 행동 결과만으로 인간의 의도를 추정하던 기존 방식에서 벗어나 뇌 인지 신호를 읽어 반응할 수 있음을 보여줬다”며 “향후 피지컬 AI, 자율주행, 정밀 맞춤형 교육, 의료용 로봇, 인간-컴퓨터 상호작용 등 인간과 AI의 협업이 필요한 다양한 분야로 확장할 수 있을 것으로 기대한다”고 말했다.
유용하 과학전문기자
세줄 요약
- 뇌파로 AI 의도 오해를 바로잡는 기술 개발
- 목표 오해와 방법 오류를 뇌 신호로 구분
- 로봇·자율주행·의료·교육 확장 기대
Copyright ⓒ 서울신문 All rights reserved. 무단 전재-재배포, AI 학습 및 활용 금지
[ 내안의 AI 본성 분석 :
UNMASK ]
기사 읽는 습관에 숨겨진 당신의 MBTI는?
Q.
기사를 다 읽으셨나요? AI 퀴즈로 핵심 점검!
연구팀이 개발한 기술의 명칭은 무엇인가?
![THE NEXT : AI 운명 알고리즘 지금, 당신의 운명을 확인하세요 [운세 확인하기]](https://imgmo.seoul.co.kr/img/n24/banner/ban_ai_fortune_v2.png)
