한국 수학자가 참여한 AI, 세계 난제 13문항 풀었다

구글 제미나이 기반 ‘알레테이아’
‘에르되시 문제’ 200개 해법 초안
김상현 교수 등 정밀 검증해 해답
“AI는 정답 아닌 문제해결 영감 줘”

김상현 고등과학원(KIAS) 교수

“수학자들이 인공지능(AI)에 기대하는 것은 정답이 아닙니다. 인간이 미처 생각지 못한 길을 가보라고 속삭여 주는 ‘영감’ 그 자체입니다.”

김상현 고등과학원(KIAS) 교수는 8일 통화에서 구글이 생성형 AI 제미나이를 고급 추론 모드로 만든 딥싱크를 기반으로 개발한 수학 AI 에이전트 ‘알레테이아’(Aletheia)의 성과에 대해 이렇게 설명했다. 김 교수는 정준혁 브라운대 교수 등과 알레테이아로 수학적 난제를 푼 내용을 논문에 담아 지난 2일 논문 사전공개 사이트인 ‘아카이브’(arXiv)에 발표했다.

알레테이아는 지난해 12월에 일주일간 ‘에르되시 문제’ 풀이에 투입됐다. 헝가리 수학자 에르되시 팔이 남긴 1179개의 난제 모음으로 약 700개가 미해결 상태인데, 알레테이아는 200개의 해법 초안을 내놓았다. 이후 김 교수 등 연구진은 한 달간 정밀 검증해 최종 13개 문항에서 수학적으로 의미 있는 해답을 도출했다.

이번 연구는 AI가 고도의 추론이 필요한 기초 과학 분야에서 전문가의 사고를 어디까지 자극할 수 있는지를 확인하려 기획됐다. 김 교수는 알레테이아의 능력에 대해 전문가의 시행착오를 줄여주는 ‘클리셰(Cliche·전형적 수법) 활용’으로 꼽았다. 그는 “이번에 해결된 문제들은 전문가라면 마땅히 먼저 시도해 볼 법한 해결 방식인 ‘클리셰’가 존재하는 영역이었다”며 “AI가 이를 선제적으로 수행해 성공 사례를 찾아냄으로써 수학자들이 겪어야 할 방대한 시행착오를 획기적으로 줄여줬다”고 말했다.

‘에르되시 1051번’의 경우 알레테이아는 풀이 과정을 온전히 스스로 제시했고, 수학자들이 이를 일반화한 별도의 논문을 발표할 정도로 성과를 냈다. 이는 신약 개발이나 신소재 설계 등 복잡한 데이터 속에서 최적의 경로를 찾아야 하는 산업 연구·개발(R＆D) 분야에도 시사점을 던진다. AI를 ‘정답 자판기’가 아니라, 전문가가 놓치기 쉬운 논리적 사각지대를 메워주는 ‘지능형 파트너’로 삼을 수 있어서다.

김 교수는 “수백 년간 쌓아온 수학 커뮤니티의 엄격한 질서 속에서 AI를 새로운 도구로 수용하는 것이 미래 과학의 방향이 될 것”이라며 “결국 미래 전문가의 역할은 AI가 내놓은 선택지 중 무엇이 가치 있는지 결정하는 ‘질문의 힘’에 있다”고 강조했다.

민나리 기자