삼성 zHBM: HBM을 GPU 위에 올리면 메모리는 시스템이 됩니다

삼성전자가 2026년 8월 FMS에서 zHBM이라는 차세대 3D 메모리 비전을 공개했습니다. 현재의 HBM은 여러 장의 DRAM을 수직으로 쌓지만, 완성된 HBM 스택은 GPU나 AI 가속기 옆에 놓입니다. zHBM은 그 스택을 xPU 위로 옮깁니다. 여기서 xPU는 GPU, TPU, NPU, 고객 맞춤형 AI 가속기를 묶어 부르는 말입니다.

삼성은 HBM5와 비교해 xPU당 최대 8배 성능, 최대 3배의 성능당 전력효율, 절반 이하의 열저항을 목표로 제시했습니다. 숫자는 크지만 아직 제품 사양으로 읽으면 안 됩니다. 작동 실리콘, 시스템 벤치마크, 고객, 수율, 샘플과 양산 일정은 공개되지 않았습니다. 무엇을 분모로 삼은 성능인지도 확인이 필요합니다.

zHBM에서 더 중요한 것은 배수가 아니라 제품의 경계입니다. 메모리 다이만 파는 구조에서 벗어나 메모리, 맞춤형 로직, xPU, 파운드리와 첨단 패키징을 하나의 3D 시스템으로 공동 설계하려는 시도입니다. 성공하면 HBM 경쟁의 단위가 메모리 스택에서 전체 AI 패키지로 바뀝니다.

HBM을 더 높이 쌓는 기술이 아닙니다

기존 2.5D AI 패키지는 xPU와 여러 HBM 스택을 실리콘 인터포저 위에 나란히 배치합니다. 이 방식은 이미 검증됐지만 HBM 수가 늘어날수록 xPU 주변의 입출력 면적, 인터포저와 기판 크기, 배선 길이, 전력, 패키지 휨이 함께 커집니다. 메모리를 더 붙이려면 패키지가 옆으로 계속 넓어져야 합니다.

zHBM은 연결 방향을 바꿉니다. 메모리를 xPU 위에 적층하면 연결에 쓸 수 있는 공간이 xPU의 가장자리에서 전체 표면으로 확장됩니다. 짧고 촘촘한 수직 연결을 많이 만들 수 있어 같은 바닥 면적에서 대역폭 밀도를 높이고, 데이터 이동 거리와 비트당 에너지를 줄일 여지가 생깁니다.

비전공자에게는 공장과 창고의 차이로 설명할 수 있습니다. 기존 HBM은 공장 옆에 대형 창고를 두고 넓은 도로로 물건을 나르는 구조입니다. zHBM은 공장 각 층 바로 위에 창고를 올리고 수많은 엘리베이터로 직접 연결하는 구조에 가깝습니다. 이동 거리는 짧아지고 통로는 많아지지만, 공장과 창고의 열을 한 공간에서 빼내야 합니다.

맞춤형 로직이 메모리를 능동적인 부품으로 바꿉니다

삼성이 공개한 개념에는 DRAM과 xPU 사이에 맞춤형 로직을 넣을 수 있는 인터레이어가 있습니다. 이 층은 단순 배선판보다 훨씬 큰 의미를 가질 수 있습니다. 주소 변환, 캐시, 데이터 압축, 오류 정정, 대역폭 관리와 일부 근접연산을 xPU와 메모리 사이에서 처리할 수 있기 때문입니다.

현재 HBM도 HBM4부터 로직 베이스 다이의 역할이 커지고 있습니다. zHBM은 고객 맞춤화의 범위를 더 넓혀 xPU의 작업 특성에 맞는 메모리 서브시스템을 함께 설계하려는 방향입니다. 같은 DRAM 다이를 사용하더라도 학습, 추론, 과학연산, 추천 시스템에 따라 데이터 흐름과 캐시, 압축 방식을 다르게 설계할 수 있습니다.

이 변화는 메모리 업체의 역할을 바꿉니다.

범용 DRAM 공급 → 고객별 로직 설계 → xPU와 메모리 공동 최적화 → 패키지·열·전력 통합

가치는 비트 수와 메모리 가격에만 머물지 않습니다. 로직 IP, 파운드리, 하이브리드 본딩, 테스트와 패키징까지 넓어질 수 있습니다. 반대로 고객 맞춤화가 깊어질수록 설계 비용은 커지고 공급자 교체는 어려워집니다. zHBM은 고성능 메모리인 동시에 장기 공동개발 계약에 가까운 제품이 될 가능성이 있습니다.

8배 성능은 아직 제품 스펙이 아닙니다

삼성이 제시한 HBM5 대비 최대 8배 성능과 3배 성능당 전력효율은 FMS 발표 기준의 목표치입니다. 공개 자료만으로는 다음 질문에 답할 수 없습니다.

• 8배는 메모리 대역폭, xPU 활용률, 애플리케이션 처리량 중 무엇인가
• xPU 한 개와 전체 패키지 중 어느 단위를 비교했는가
• 3배 성능당 전력효율은 메모리만의 수치인가, 냉각을 포함한 시스템 수치인가
• 열저항은 어느 지점에서 어떤 냉각 조건으로 측정했는가
• HBM5의 어떤 구성과 zHBM의 어떤 구성을 비교했는가

2026년 2월 삼성은 세미콘 코리아에서 zHBM의 초기 구상을 공개하며 HBM4 대비 대역폭과 전력효율을 최대 4배 개선할 잠재력을 언급했습니다. 8월에는 HBM5를 비교 기준으로 더 큰 목표를 제시했습니다. 이는 설계가 진전되고 있음을 시사하지만, 비교 기준이 달라 숫자를 한 시계열로 이어 붙일 수는 없습니다.

확인된 것은 아키텍처 방향과 회사의 목표입니다. 실리콘에서 반복 측정된 성능과 고객 시스템의 총소유비용은 아직 확인되지 않았습니다. zHBM을 양산 제품처럼 표현하거나 8배를 확정 성능으로 인용하는 것은 이릅니다.

전기적 이득은 열과 수율의 대가를 요구합니다

메모리와 xPU를 가까이 붙이면 신호에는 유리하지만 열에는 불리합니다. xPU는 패키지에서 가장 뜨거운 부품이고, DRAM은 고온에서 성능과 신뢰성을 유지하기 어렵습니다. 두 열원을 수직으로 겹치면 냉각 경로, 전력 공급, 온도 편차를 함께 풀어야 합니다.

제공된 개념도처럼 스택 상단에서 냉각하더라도 xPU의 열이 여러 DRAM 층을 통과하지 않도록 별도의 열 경로가 필요할 수 있습니다. 열관통 구조, 후면 전력 공급, 실리콘 내부 냉각, 마이크로유체 냉각 같은 해법이 거론될 수 있지만 삼성은 zHBM의 확정 냉각 구조를 공개하지 않았습니다. 냉각비가 커지면 데이터 이동에서 얻은 전력 이득이 시스템 차원에서 줄어들 수 있습니다.

수율 문제도 더 어려워집니다. xPU, 맞춤형 로직, DRAM 다이와 수많은 본딩 접점의 수율이 모두 최종 제품 원가에 영향을 줍니다. 한 층의 불량이 고가의 xPU까지 사용할 수 없게 만들면 전기적 성능이 좋아도 경제성이 나오지 않습니다. 완성 전에 정상 다이를 골라내는 KGD(Known Good Die), 적층 후 테스트, 수리와 우회 설계가 핵심입니다.

그래서 하이브리드 본딩은 단순한 패키징 공정이 아닙니다. 범프 없이 구리와 절연막을 미세 피치로 직접 접합해 연결 밀도와 전력효율을 높이는 동시에, 양산 수율과 처리량을 확보해야 하는 zHBM의 중심 공정입니다. 삼성은 메모리와 파운드리, 시스템LSI, 패키징을 한 회사 안에 갖고 있어 공동 최적화에 유리하지만, 각 공정의 수율을 함께 책임져야 한다는 뜻이기도 합니다.

삼성의 경쟁자는 다른 메모리만이 아닙니다

zHBM의 기본 방향은 삼성만의 독점적 종착점이 아닙니다. SK하이닉스는 2026년 TSMC 기술 심포지엄에서 맞춤형 HBM과 함께 3D Stacked DRAM on Logic을 공식 제시했습니다. DRAM을 SoC 같은 로직 위에 직접 쌓아 입출력 통로를 늘리고 지연, 전력과 면적을 줄이는 방향입니다.

SK하이닉스의 강점은 HBM 고객 관계와 양산 경험, TSMC 생태계의 결합입니다. HBM4의 로직 베이스 다이부터 TSMC 선단 로직 공정을 사용한다고 밝혔습니다. 삼성의 강점은 메모리, 파운드리, 로직과 패키징을 내부에서 함께 설계할 수 있다는 점입니다. 어느 방식이 우세한지는 수직계열화 자체보다 고객이 어떤 xPU와 파운드리, 패키징 생태계를 선택하느냐에 달려 있습니다.

TSMC SoIC는 이 경쟁에서 별도의 축입니다. TSMC는 정상 다이를 선별해 서로 다른 공정의 칩을 결합하고, 10마이크로미터 미만의 본딩 피치로 고밀도 연결을 제공한다고 설명합니다. 3나노 칩 적층은 2025년 양산에 들어갔습니다. xPU 고객이 TSMC의 SoIC와 CoWoS를 중심으로 공급망을 구성하면, 전체 3D 시스템의 통합 권한이 메모리 업체보다 파운드리에 갈 수 있습니다.

경로	배치와 목표	강점	현재 확인 수준
기존 HBM4E·HBM5	xPU 옆에서 대역폭과 용량 확대	표준, 양산 경험, 공급자 선택	HBM4 양산, HBM5 로드맵
삼성 zHBM	DRAM과 맞춤형 로직을 xPU 위에 적층	메모리·파운드리·패키징 내부 통합	아키텍처와 목표 공개
SK하이닉스 3D DRAM on Logic	DRAM을 로직 위에 직접 적층	HBM 고객 기반과 TSMC 협력	기술 비전 공개
TSMC SoIC + 맞춤형 HBM	파운드리 플랫폼 중심 3D 통합	xPU 고객과 설계 생태계	SoIC 일부 양산, 메모리 통합은 고객별
Qualcomm HBC	LPDDR와 연산 다이를 가까이 결합	추론 전력과 비용에 특화	로드맵, 독립 벤치마크 전

경쟁의 질문은 누가 DRAM을 더 잘 만드느냐에서 끝나지 않습니다. 누가 고객의 xPU, 메모리, 로직, 본딩, 냉각과 소프트웨어를 함께 최적화할 권한을 얻느냐가 더 중요해집니다.

zHBM이 모든 메모리를 대체하지는 않습니다

3D 통합은 가장 빠르고 비싼 메모리 계층에 적합합니다. 모든 모델 가중치와 KV 캐시, 학습 데이터와 체크포인트를 zHBM에 넣기에는 비용과 용량 제약이 큽니다. AI 시스템의 메모리 계층은 오히려 더 세분화될 가능성이 높습니다.

온칩 SRAM → zHBM·3D DRAM → HBM5 → HBF·고성능 NAND → 기업용 SSD

zHBM은 가장 뜨겁고 반복 접근이 많은 데이터를 맡고, 기존 HBM은 범용 학습과 고성능 연산을 담당할 수 있습니다. HBF와 HBC의 역할은 이전 글에서 다뤘듯 서로 다릅니다. HBF와 고성능 NAND는 긴 문맥과 KV 캐시의 대용량 계층을 맡고, SSD는 학습 데이터와 체크포인트를 보관합니다.

따라서 zHBM은 HBM5를 한 번에 밀어내기보다 가격에 덜 민감하고 성능에 가장 민감한 xPU부터 들어갈 가능성이 높습니다. 하이퍼스케일러의 고객 맞춤형 가속기, 프런티어 모델 학습, 과학연산 같은 시장이 초기 후보입니다. 표준 HBM과 모듈형 메모리는 비용, 공급 유연성과 교체 가능성이 중요한 워크로드에서 계속 남습니다.

로컬 메모리 병목이 완화되면 다음 병목도 이동합니다. xPU 내부와 메모리 사이가 빨라질수록 xPU 사이, 랙 사이의 네트워크가 더 큰 제약이 됩니다. 광인터페이스와 실리콘 포토닉스는 zHBM의 대체재가 아니라 다음 구간을 연결하는 보완재입니다.

양산 능력은 작동 실리콘부터 증명됩니다

zHBM이 기술 비전에서 상용 제품으로 넘어갔다고 판단하려면 발표 배수보다 다음 증거가 먼저 나와야 합니다.

작동 실리콘: 실제 xPU와 DRAM을 적층한 시제품이 공개돼야 합니다. 전시용 모형과 패키지 단면만으로는 동작 여부를 알 수 없습니다.

측정 정의: 대역폭, 지연시간, 전력과 온도를 같은 조건의 HBM5 시스템과 비교해야 합니다. 8배와 3배가 어떤 워크로드와 측정 범위를 뜻하는지도 공개돼야 합니다.

고객 검증: 이름이 공개된 xPU 고객 또는 공동개발 사례가 필요합니다. 3D 메모리는 고객 칩과 전력, 냉각을 처음부터 함께 설계해야 하므로 고객 참여 없이 표준품처럼 개발하기 어렵습니다.

수율 구조: 각 다이를 정상 상태로 선별하는 방법, 적층 후 테스트, 불량 연결의 우회와 수리 가능성, 최종 스택 수율이 확인돼야 합니다.

시스템 경제성: 하이브리드 본딩과 냉각 비용을 포함하고도 HBM5 대비 총소유비용이 낮거나, 비용 증가를 상쇄할 만큼 처리량이 높아야 합니다.

샘플과 양산 일정: 고객 샘플, 인증, 양산, 실제 시스템 출하가 이어져야 매출 가능한 제품이 됩니다. 삼성은 2026년 8월 현재 이 일정을 공개하지 않았습니다.

메모리 회사의 다음 제품은 메모리가 아닐 수 있습니다

zHBM의 핵심은 HBM을 위로 옮긴 모양이 아닙니다. 메모리와 연산의 경계를 다시 긋고, 데이터가 움직이는 거리와 시스템을 설계하는 주체를 바꾸려는 데 있습니다.

삼성에는 이 방향을 추진할 이유와 자산이 있습니다. 메모리, 파운드리, 로직과 패키징을 함께 보유해 한 회사 안에서 3D 시스템을 최적화할 수 있습니다. 동시에 고객이 TSMC 생태계를 선호하거나, 열과 수율, 비용이 전기적 이득을 상쇄하면 내부 통합은 장점이 되지 못합니다. SK하이닉스와 TSMC의 조합도 같은 종착점을 향하고 있습니다.

현재 확인된 zHBM은 제품이라기보다 제품 경계를 다시 정의하는 아키텍처 제안입니다. 8배라는 숫자보다 더 큰 변화는 메모리 업체가 DRAM 공급자에서 AI 시스템 공동 설계자로 이동하려 한다는 점입니다. 이 전환이 현실이 되는지는 작동 실리콘, 고객, 수율, 냉각과 총소유비용이 결정합니다.

---

본 글은 2026년 8월 6일 기준 삼성전자, SK하이닉스, TSMC 등 공개 자료를 바탕으로 작성한 기술·산업 분석입니다. 삼성의 성능·전력·열 수치는 회사가 FMS 2026에서 제시한 목표이며 양산 제품이나 고객 시스템에서 독립 검증된 값이 아닙니다. 제공된 구조 이미지는 이해를 위한 개념도입니다. 특정 종목에 대한 투자 판단은 다루지 않습니다.

주요 출처: Samsung FMS 2026 zHBM 발표 · Samsung zHBM 초기 공개 보도 · SK하이닉스 메모리·로직 통합 비전 · TSMC SoIC · Sandisk·SK하이닉스 HBF 표준화