세계 중앙은행 최초로 자체 AI시스템 도입한 한은 [경제블로그]

한국은행이 최근 사내 업무망에 자체 AI(인공지능) 시스템인 ‘BOKI(Bank of Korea Intelligence·가칭)’를 도입했습니다. 중앙은행이 외부에 데이터를 보내지 않고 내부에 자체적으로 AI를 구축한 사례는 한국은행이 세계 최초라고 하는군요. 2020년 하반기 무렵 한은은 내부적으로 ‘BOK 2040’이라는 중장기 계획을 세워 차근차근 디지털 혁신을 위한 과정을 밟아왔습니다. 한은의 BOKI 도입은 AI가 대중들에게 알려지기 전부터 노력한 끝에 이뤄낸 값진 결실이라고 할 수 있죠.

한은은 초기 언어모델에 대한 개념조차 희미했을 무렵부터 선제적으로 AI 시스템 도입을 검토했습니다. 당시 한은은 서울대학교와 함께 산학협력 형태로 초기 언어모델 제작을 시도하기도 하고, 호주 시드니대와 함께 보고서의 표나 그래프를 찾고 해석해주는 AI를 연구하는 등 갖가지 시도를 해봅니다.

그러던 중 2022년 중반부터 본격적으로 국내외 언어모델을 검토합니다. 구글이나 오픈AI 같은 해외 모델도 검토했지만, 한은을 포함해 금융권에 도입된 망 분리 환경에서의 데이터 보안이 가장 큰 걸림돌이었습니다. 결국 한은은 2022년 ‘네이버클라우드’와 손을 잡았습니다. 네이버의 거대언어모델(LLM)을 들여와 중앙은행 업무에 맞게 내부망에 ‘폐쇄형(Private) 클라우드’를 구축하는 방식을 택했죠. 지금까지 한은은 BOKI를 돌리기 위해 GPU(그래픽 처리 장치) 80장을 확보했다고 하는데요. 이는 전 세계 중앙은행 중 최대 규모로 알려져 있습니다.

준비 과정은 그야말로 ‘사투’였습니다. 일반 사무용 건물인 한은 본관 서버실은 GPU의 엄청난 열기와 전력 소모를 감당하기 어려워서 전기 공사를 다시 하고 항온·항습기까지 추가 설치해야 했다고 하네요. 이 서버실은 보안이 너무 철저해서, 담당 부서장인 디지털혁신실장조차 별도의 인가를 받은 출입증 없이는 들어갈 수 없다고 합니다.

BOKI가 똑똑한 답변을 내놓을 수 있는 비결은 한은이 축적한 방대한 데이터에 있습니다. 한은은 14개 부서에서 300만개에 달하는 문서를 취합해 개인정보를 필터링하고 중복을 제거한 뒤, 최종적으로 140만 건의 핵심 자료를 AI가 학습할 수 있는 형태로 변환했습니다. 특히 변환이 까다로운 한글(HWP) 문서들을 기계가 읽을 수 있는 표준 형태로 바꾸는 데 상당한 공을 들였습니다. 한은 내부에서는 “AI를 일 잘하게 만들려고 사람이 초기에 너무 많은 일을 해야 했다”고 농담하기도 했다는 후문입니다. 한은이 과연 디지털 전환(AX)의 선두 주자로 나설 수 있을지 향후 행보가 주목됩니다.

황비웅 기자