삼성, AI 메모리 승부수…성능 8배 높인 ‘zHBM’ 공개

구글에서 서울신문 먼저 보기

AI 가속기 위에 HBM 직접 쌓아 데이터 병목 완화
전력 효율 최대 3배…차세대 낸드·SSD도 공개

삼성전자가 인공지능(AI) 반도체의 성능을 떨어뜨리는 데이터 병목을 줄이기 위해 차세대 3차원 메모리 기술을 공개했다. 고대역폭메모리(HBM)를 AI 가속기 위에 직접 쌓아 데이터 이동 거리를 줄이고, 처리 속도와 전력 효율을 함께 높이는 방식이다.

삼성전자는 4일(현지시간) 미국 캘리포니아주 샌타클래라에서 열린 메모리 행사 ‘FMS 2026’ 기조연설에서 차세대 메모리 구조인 ‘zHBM’을 선보였다. 김경륜 삼성전자 D램개발실 상무는 “기존 패키징 구조로는 가속기 칩과 메모리 간 물리적 거리를 줄이는 데 한계가 있다”며 새로운 구조가 필요한 이유를 설명했다.

현재 HBM은 여러 개의 D램을 수직으로 쌓은 뒤 그래픽처리장치(GPU) 등 AI 가속기 옆에 배치한다. AI가 처리하는 데이터가 늘어날수록 가속기와 메모리 사이에서 데이터가 오가는 데 시간이 걸리고 전력 소모도 커진다. 이른바 ‘메모리 장벽’이다.

zHBM은 HBM을 가속기 위에 직접 적층해 이 거리를 줄인다. 칩을 가로와 세로 방향으로 배치하던 기존 방식에서 벗어나 높이인 Z축까지 활용한다는 뜻에서 이름 앞에 ‘z’를 붙였다.

삼성전자에 따르면 zHBM은 현재 개발 중인 HBM5와 비교해 GPU당 성능을 최대 8배, 전력 대비 성능을 최대 3배 높일 수 있다. 메모리를 위로 쌓을수록 열이 빠져나가기 어려워지는 문제를 해결하기 위해 열 저항도 HBM5의 10~25% 수준으로 낮췄다.

삼성전자는 zHBM에 앞서 상용화를 추진할 HBM5의 개발 방향도 소개했다. HBM5에는 2나노미터 공정 기반의 베이스 다이와 게이트올어라운드(GAA) 트랜지스터를 적용한다. 메모리 칩 측면으로 열을 내보내는 구조도 도입해 HBM4E보다 성능은 2배 높이고 열 저항은 20% 이상 낮추는 것을 목표로 하고 있다.

낸드 분야에서는 스마트폰과 PC 등 기기 안에서 AI를 구동하는 온디바이스 AI용 ‘z낸드-O’를 공개했다. D램은 빠르지만 비싸고 용량을 늘리는 데 한계가 있는 반면, 낸드는 가격이 낮고 대용량을 구현하기 쉽지만 상대적으로 속도가 느리다. z낸드-O는 낸드의 비용과 용량상 이점을 유지하면서 처리 속도를 끌어올린 제품이다.

이진엽 삼성전자 플래시개발실 부사장은 매개변수 1200억개 규모의 AI 모델을 시험 구동한 결과, z낸드-O가 기존 D램 서버와 같은 초당 토큰 처리량을 내면서도 메모리 비용은 6분의 1에 그친다고 설명했다. 비싼 D램을 대량으로 사용하지 않고도 AI 모델을 빠르게 구동할 수 있다는 의미다.

이 부사장은 기조연설 도중 초소형 기업용 솔리드스테이트드라이브(SSD) ‘BM1773’을 들어 보이며 “믿기 힘들겠지만 이 작은 스토리지 칩 하나가 최고급 세단 한 대 값과 맞먹는다”고 말했다. 이어 “바닥에 떨어뜨린다면 당장 내일부터 새 직장을 구하러 다녀야 할 것”이라고 말해 참석자들의 웃음을 자아냈다.

삼성전자 V10 BV-NAND 제품. 삼성전자 제공

삼성전자는 이날 400단 이상을 수직으로 쌓은 10세대 V낸드 ‘V10 BV-낸드’도 업계 최초로 공개했다. AI 모델이 고도화하면서 연산을 담당하는 HBM뿐 아니라 방대한 데이터를 저장하는 낸드와 기업용 SSD 수요도 함께 늘어나는 데 대응한 제품이다.

삼성전자는 HBM과 고성능 낸드, 기업용 SSD를 모두 공급할 수 있는 제품군과 양산 역량을 앞세워 AI 데이터센터부터 온디바이스 AI까지 시장을 넓힐 계획이다. 김 상무는 기조연설에서 “삼성이 돌아왔다”며 차세대 AI 메모리 경쟁에 대한 자신감을 나타냈다.

민나리 기자

세줄 요약

• zHBM 공개, AI 메모리 병목 해소 시도
• 가속기 위 적층으로 성능·전력 효율 개선
• HBM5·z낸드-O·V10 BV-낸드도 동시 공개