정석근(왼쪽) SK텔레콤 AI CIC장과 정명수 파네시아 대표가 스페인 바르셀로나에서 열리고 있는 MWC26에서 파네시아와 ‘CXL 기반 차세대 AI DC 구조(아키텍처)’ 공동 개발을 위한 업무협약(MOU)을 체결했다. SK텔레콤 제공
SK텔레콤이 국내 인공지능(AI) 반도체 스타트업과 함께 AI 데이터센터(DC)의 고질적인 문제인 ‘메모리 병목’ 해결에 나선다. 단순히 GPU(그래픽처리장치) 숫자를 늘리는 하드웨어 경쟁을 넘어, 컴퓨팅 자원 간의 연결 방식을 혁신해 운영 효율을 극대화한다는 전략이다.
SK텔레콤은 스페인 바르셀로나 MWC26 현장에서 CXL(Compute eXpress Link) 전문 기업 ‘파네시아’와 차세대 AI DC 구조 개발을 위한 업무협약(MOU)을 체결했다고 4일 밝혔다. 이번 협력은 AI 모델의 고도화로 메모리 수요가 급증함에 따라, 기존 서버 구조의 한계를 극복하고 경제성을 확보하는 데 초점을 맞췄다.
기존 AI DC는 CPU와 GPU, 메모리가 개별 서버 단위로 고정되어 있어 특정 자원이 남아도 다른 서버에서 빌려 쓰기 어려운 구조였다. 특히 메모리가 부족하면 쓰지 않는 GPU까지 통째로 증설해야 하는 비용 낭비가 심했다. 양사는 차세대 연결 표준인 CXL 기술을 도입해 이러한 칸막이를 허문다. 서버 내부의 자원 연결 범위를 여러 대의 서버가 묶인 ‘랙(Rack) 단위’까지 확장해 필요한 자원을 유연하게 공유하고 조합하는 방식이다.
기술적 핵심은 데이터 전송의 단순화다. 그동안 GPU 간 연산은 범용 네트워크를 거치며 데이터 복사와 소프트웨어 개입으로 속도가 지연되는 한계가 있었다. 양사는 파네시아의 ‘링크 반도체’ 기술을 활용해 자원을 직접 연결함으로써 연산 효율을 대폭 끌어올릴 계획이다. 이를 통해 연산 성능은 높지만 데이터 공급이 이를 따라가지 못하는 이른바 ‘메모리 월(Memory Wall)’ 현상을 완화할 수 있을 것으로 기대된다.
정석근 SKT AI CIC장은 “AI DC의 경쟁력은 시스템 최적화에 달려 있다”며 “이번 협력을 통해 연산 성능과 경제성을 동시에 잡는 표준 모델을 제시할 것”이라고 밝혔다. 양사는 연말까지 차세대 AI DC 구조를 공개하고 실증을 거쳐 상용화를 추진할 방침이다.
