삼성 “zHBM으로 AI 에이전트 응답 속도 10배 빨라져”

기사 소리로 듣기

다시듣기

글씨 크기 조절
글자크기 설정

닫기

글자크기 설정 시 다른 기사의 본문도 동일하게 적용 됩니다.
- 가
- 가
- 가
- 가
- 가
공유하기
공유

닫기
https://m.seoul.co.kr/news/economy/industry/2026/09/18/20260918032007
URL 복사
댓글
0

송수연 기자

수정 2026-09-18 00:51

입력 2026-09-17 23:09

구글에서 서울신문 먼저 보기

美 ‘AI 인프라 서밋’서 목표 제시
‘HBM 대안 기술’ CXL에 부정적

김인동 삼성전자 미주총괄법인(DSA) 메모리 상품기획 담당 상무. 연합뉴스 — 김인동 삼성전자 미주총괄법인(DSA) 메모리 상품기획 담당 상무.
연합뉴스

삼성전자가 인공지능(AI) 가속기 위에 고대역폭메모리(HBM)를 3차원(3D)으로 얹는 ‘zHBM’을 통해 AI 에이전트 응답 속도를 10배로 끌어올리겠다는 비전을 제시했다.

김인동 삼성전자 미주총괄법인(DSA) 메모리 상품기획 담당 상무는 16일(현지시간) 미국 캘리포니아주 샌타클래라 컨벤션센터에서 열린 ‘AI 인프라 서밋’ 발표에서 이 같은 목표를 밝혔다.

김 상무는 “현재 대화형 AI 시스템의 응답 속도는 이용자당 1초당 100토큰 수준”이라며 “앞으로 에이전트형 AI를 위해 이를 초당 1000토큰으로 10배 끌어올리는 양자 도약(퀀텀 점프)을 목표로 하고 있다”고 밝혔다.

그는 이 목표를 위해서는 AI 가속기 옆에 HBM을 나란히 배치하는 2.5D 방식이 아니라 가속기 상단에 HBM을 직접 얹는 수직 적층형 ‘zHBM’이 필수라고 강조했다.

김 상무는 이 같은 구조를 “호텔 객실 내에 1층 로비로 직행하는 전용 엘리베이터를 두는 것”이라고 비유했다. 데이터 이동 거리와 지연 시간을 극단적으로 줄일 수 있다는 설명이다. zHBM은 HBM5와 비교해 최대 8배 성능과 3배 이상의 전력 효율을 구현할 수 있다고 했다.

이날 AI 인프라 서밋에서는 AI 서비스의 핵심 기술로 꼽히는 고대역폭 메모리(HBM)의 독주가 앞으로도 계속 이어질 것이라는 전망도 나왔다.

AI 인프라 서밋 패널 토의에 참석한 인텔과 오픈AI의 기술진은 HBM을 대신할 기술로 주목받아온 ‘컴퓨트익스프레스링크’(CXL)에 부정적인 견해를 내보였다. 오픈AI 관계자는 “AI 모델을 실제 구동하는 입장에서 CXL의 쓰임새를 찾지 못하겠다”고 말했다.

송수연 기자

세줄 요약