HBF 첫 표준: 512GB 플래시가 AI 가속기 패키지 안으로 들어옵니다
SK하이닉스와 샌디스크가 2026년 8월 FMS에서 HBF(High Bandwidth Flash)의 첫 표준 사양을 공개했습니다. 발표된 범위는 8단·16단 NAND 적층, 최대 512GB 용량, 약 0.4~3.0TB/s의 세 대역폭 등급, UCIe 연결, 전기적 특성, 패키징 신뢰성, 소프트웨어 I/O 지침입니다.
가장 큰 의미는 3TB/s라는 숫자에 있지 않습니다. HBF가 한 회사의 특수한 NAND 제품에서 벗어나, 메모리 업체와 xPU 설계사, 패키징 업체와 소프트웨어가 함께 구현할 수 있는 공통 시스템 계약을 갖기 시작했다는 데 있습니다. 여기서 xPU는 GPU, CPU, TPU, NPU와 고객 맞춤형 AI 가속기를 묶어 부르는 말입니다.
다만 첫 표준 사양은 첫 제품이나 양산을 뜻하지 않습니다. 대역폭 등급의 정확한 경계, 읽기 지연, 쓰기 대역폭과 내구성, 소비전력, 상호운용성 시험, 샘플과 양산 일정은 공개 자료만으로 확인되지 않습니다. OCP도 HBF를 반공개 워크스트림으로 분류하고 있어, 2026년 8월 6일 현재 상세 규격 본문은 공개 PDF로 확인되지 않습니다.
표준은 1년 만에 제품 구상을 산업의 언어로 바꿨습니다
HBF는 NAND를 HBM처럼 수직 적층해 AI 가속기 가까이에 두려는 메모리입니다. HBM보다 지연은 길고 쓰기는 느리지만, 같은 패키지 면적에서 훨씬 큰 용량을 제공하는 것이 목표입니다. 그래서 HBM을 없애기보다 HBM과 SSD 사이에 읽기 중심의 새 계층을 넣습니다. HBM·HBF·HBC의 역할 차이는 이전 글에서 다뤘습니다.
표준화의 속도는 빨랐습니다. 샌디스크는 2025년 2월 HBF 아키텍처를 공개했고, SK하이닉스와는 같은 해 8월 공동 표준화에 합의했습니다. 두 회사는 2026년 2월 OCP 산하 HBF 워크스트림을 출범시켰고, 약 6개월 뒤 첫 사양을 발표했습니다. SK하이닉스에 따르면 현재 구글과 AI 가속기 업체 텐스토렌트도 컨소시엄에 참여하고 있습니다.
| 시점 | 확인된 진전 | 아직 없던 것 |
|---|---|---|
| 2025년 2월 | 샌디스크 HBF 아키텍처·로드맵 공개 | 공동 규격, 제품, 고객 시스템 |
| 2025년 8월 | SK하이닉스·샌디스크 표준화 협력 | 규격 범위, 공식 컨소시엄 |
| 2026년 2월 | OCP 워크스트림 출범 | 성능 등급, 연결 방식의 공개 합의 |
| 2026년 8월 | 첫 표준 사양, UCIe, 8단·16단, 최대 512GB, 3개 대역폭 등급 | 상세 공개 규격, 적합성 시험, 작동 실리콘, 양산 |
이 순서는 중요합니다. HBF는 아이디어 단계에서 인터페이스를 먼저 잠그는 방식을 택했습니다. xPU는 설계부터 패키징까지 수년이 걸리므로, 메모리 제품이 나온 뒤 연결 방법을 논의하면 채택 시기를 놓칩니다. 반대로 규격을 먼저 정하면 xPU 업체는 HBF 포트를 설계하고, 메모리 업체는 같은 경계를 향해 서로 다른 NAND와 컨트롤러를 개발할 수 있습니다.
HBF는 HBM과 SSD 사이에 별도의 자리를 만듭니다
HBF의 구조는 SSD를 빠른 케이블로 GPU에 붙이는 것과 다릅니다. NAND 다이를 8층 또는 16층으로 쌓고, 아래쪽 로직 다이가 수많은 NAND 배열의 읽기를 병렬로 조정합니다. 이 스택을 xPU와 같은 패키지에 놓고 UCIe로 연결합니다. HBM은 가장 자주 쓰는 데이터, HBF는 크고 읽기 중심인 데이터, SSD는 더 차갑고 큰 데이터를 맡는 구성이 기본입니다.
이 배치는 추론의 비용 구조를 바꿀 수 있습니다. 대형 모델의 모든 가중치와 긴 문맥의 상태를 HBM에 넣으려면 여러 가속기에 모델을 나눠야 합니다. 일부 데이터를 HBF로 옮겨 한 모델이 쓰는 가속기 수를 줄일 수 있다면, HBF가 HBM보다 느리더라도 시스템 전체 처리량과 전력효율이 좋아질 수 있습니다.
그러나 용량만 늘린다고 성능이 따라오지는 않습니다. NAND는 첫 바이트를 읽는 시간이 DRAM보다 길고, 많은 내부 배열을 동시에 읽어야 높은 대역폭에 도달합니다. 데이터 배치, 미리 읽기, 캐시, 요청 크기와 동시성이 맞지 않으면 명목상 대역폭의 일부만 사용하게 됩니다. HBF는 NAND 다이뿐 아니라 로직 다이와 소프트웨어까지 함께 설계해야 하는 시스템 제품입니다.
첫 사양은 무엇을 정했고 무엇을 남겨뒀나
SK하이닉스 발표를 기준으로 첫 사양은 다섯 영역을 다룹니다.
| 표준화 영역 | 공개된 내용 | 아직 공개 자료로 확인되지 않은 내용 |
|---|---|---|
| 용량·적층 | 8단 또는 16단 NAND, 최대 512GB | 적층별 용량 조합, NAND 셀 종류 |
| 성능 등급 | Grade 1~3, 약 0.4~3.0TB/s 범위 | 각 등급의 정확한 경계, 측정 조건, 패키지당 수치인지 여부 |
| xPU 연결 | UCIe 채택 | 레인 수, 속도, 프로토콜 세부, 지연 예산 |
| 제조·신뢰성 | 전기적 특성, 적층 공정의 패키징·신뢰성 지침 | 열 설계 한계, 오류율, 수명과 데이터 보존 조건 |
| 소프트웨어 | 소프트웨어 I/O 지침 | 운영체제·런타임 API, 메모리 배치 정책, 공개 드라이버 |
이 표는 표준의 현재 위치를 보여줍니다. 상자 크기와 연결선은 그려졌지만, 그 안에서 성능을 만드는 NAND 구조, 로직 다이, 오류 정정, 펌웨어와 데이터 배치 알고리즘은 여전히 업체의 구현 영역입니다. 공개된 범위만으로는 서로 다른 회사의 HBF를 같은 xPU에 꽂아 바로 교체할 수 있다고 판단할 수 없습니다.
3TB/s는 1세대 제품의 확정 속도가 아닙니다
이번 발표의 약 0.4~3.0TB/s는 HBF를 세 등급으로 나누는 표준 범위입니다. SK하이닉스의 공개 문구만으로는 3TB/s가 한 스택의 최대 읽기 대역폭인지, 여러 스택을 묶은 하위 시스템 수치인지, 어느 세대 제품을 위한 상한인지 확인할 수 없습니다. 따라서 3TB/s를 곧 출시될 512GB 제품의 확정 성능으로 읽으면 안 됩니다.
샌디스크가 2025년 7월 공개한 기술 자료는 1세대 목표를 더 구체적으로 제시했습니다. 256Gb NAND 다이 16개를 쌓아 512GB를 만들고 읽기 대역폭 1.6TB/s를 내는 구상입니다. 2세대는 2TB/s 초과·최대 1TB, 3세대는 3.2TB/s 초과·최대 1.5TB를 예비 목표로 삼았습니다. 모두 샌디스크의 내부 시험과 시뮬레이션에 기반한 전망입니다.
| 자료 | 용량·적층 | 읽기 대역폭 | 해석 |
|---|---|---|---|
| 샌디스크 1세대 구상, 2025년 | 16단, 512GB | 1.6TB/s | 특정 제품 목표 |
| HBF 첫 표준 사양, 2026년 | 8단·16단, 최대 512GB | 약 0.4~3.0TB/s, 3개 등급 | 여러 구현을 수용하는 규격 범위 |
| 샌디스크 장기 로드맵, 2025년 | 최대 1TB·1.5TB | 2TB/s 초과·3.2TB/s 초과 | 2·3세대 예비 목표 |
세 줄은 같은 시간표가 아닙니다. 표준의 상한과 한 회사의 첫 제품 목표, 장기 로드맵을 분리해야 합니다. 지금 확인된 변화는 1.6TB/s 제품이 갑자기 3TB/s가 됐다는 것이 아니라, HBF 생태계가 여러 용량과 성능을 수용할 공통 틀을 만들었다는 점입니다.
UCIe는 HBF를 범용 부품으로 만들기 위한 선택입니다
UCIe는 한 패키지 안의 서로 다른 칩렛을 연결하는 개방형 인터페이스입니다. UCIe 컨소시엄은 물리 계층, 다이 간 프로토콜, 소프트웨어 모델과 적합성 시험을 표준화해 서로 다른 공급자의 칩렛을 조합하는 생태계를 목표로 합니다.
HBF가 UCIe를 택한 이유는 분명합니다. 메모리 업체가 GPU마다 별도 연결을 만들지 않고, GPU·CPU·맞춤형 AI 가속기가 공통 연결 규칙으로 HBF에 접근하게 하려는 것입니다. 구글의 참여는 대규모 사용자 관점의 요구가 들어오고 있다는 신호이고, 텐스토렌트의 참여는 실제 AI 가속기 설계 관점의 신호입니다. 다만 두 회사 모두 HBF 채택 제품이나 출시 일정을 발표한 것은 아닙니다.
여기서 한 가지 오해를 걷어내야 합니다. HBF는 HBM을 뽑고 그대로 꽂는 호환 부품이 아닙니다. 샌디스크는 2025년 투자자 설명 자료에서 HBF가 HBM과 같은 전기적 인터페이스에 가까운 구상을 갖지만 드롭인 호환은 아니며 프로토콜 변경이 필요하다고 명시했습니다. 2026년 사양이 UCIe를 연결 방식으로 채택한 것도 xPU의 PHY, 패키지 배선, 컨트롤러와 소프트웨어 변경이 필요하다는 뜻입니다.
개방형 표준은 공급자 종속 위험을 낮출 수 있지만 자동으로 호환성을 만들지는 않습니다. 두 개 이상의 HBF 구현이 같은 xPU와 실제로 연결되고, 같은 소프트웨어에서 오류 없이 작동하는 적합성 시험이 나와야 멀티벤더 생태계가 증명됩니다.
HBF의 주전장은 정적 가중치와 읽기 중심 데이터입니다
HBF에 가장 자연스러운 데이터는 한 번 적재한 뒤 반복해서 읽는 대형 모델 가중치입니다. 혼합전문가 모델에서는 자주 호출되는 전문가는 HBM에 두고, 드물게 호출되는 전문가는 HBF에 둘 수 있습니다. 반복 사용하는 프롬프트의 접두부 캐시, 대형 벡터 데이터베이스의 원본 벡터, 검색 결과 재정렬용 데이터도 후보입니다.
반면 KV 캐시는 논쟁적인 영역입니다. KV 캐시는 추론 중 계속 생성되고 갱신되므로 쓰기 속도와 내구성이 중요합니다. 2026년 공개 연구도 결론이 갈립니다.
| 연구·접근 | HBF에 적합하다고 본 데이터 | 결과 | 반드시 붙여야 할 조건 |
|---|---|---|---|
| FlashAccel | 모델 가중치·KV 캐시 | 6개 HBF 스택을 가정한 시뮬레이션에서 HBM 전용 GPU 대비 GPU당 처리량 평균 2.54배, 에너지효율 1.93배 | SRAM 미리 읽기, 특수 데이터 배치, SLC급 내구성·짧은 보존기간 가정, 실제 실리콘 아님 |
| Is High-Bandwidth Flash All You Need? | 정적인 콜드 전문가 가중치 | 분석한 모든 지점에서 온패키지 LPDDR가 HBF와 같거나 우세, KV가 큰 조건에서는 HBF보다 최대 2.1배 | 마이크론 연구진의 분석 모델, 프리필·접두부 캐시 등 HBF 유리 구간은 평가하지 않음 |
| HAVEN | 대형 벡터 DB의 원본 벡터와 재정렬 | DDR·SSD 기반 시스템 대비 재정렬 처리량 최대 20배, 지연 최대 40배 개선 | HBF 로직 다이에 검색 연산기를 넣은 모델링 결과, 범용 HBF 제품 아님 |
FlashAccel은 쓰기 수명을 늘리기 위해 SLC급 NAND, 짧은 데이터 보존기간과 100만 회 프로그램·삭제 수명을 가정합니다. 이 연구의 모델에서 HBF 읽기 에너지는 HBM3E의 2.7배였고, HBF 통합 GPU의 전력 한도는 비교 GPU보다 최대 1.31배 높았습니다. 처리량이 더 크게 늘어 결과적으로 토큰당 에너지는 좋아졌지만, HBF 자체가 HBM보다 저전력이라는 뜻은 아닙니다.
반대편의 HotInfra 연구는 NAND가 디코드 속도로 발생하는 KV 쓰기를 감당하기 어렵다고 보고, 쓰기가 자유로운 온패키지 LPDDR를 더 범용적인 두 번째 계층으로 평가했습니다. 두 연구 모두 실제 HBF 칩을 측정하지 않은 분석과 시뮬레이션입니다. 어느 쪽이 맞는지는 NAND 셀 구성, 보존기간, 쓰기 증폭, 캐시 정책과 실제 서비스의 KV 발생량에 따라 달라집니다.
따라서 현재 가장 보수적인 결론은 이렇습니다. 정적 가중치와 읽기 중심 데이터는 HBF의 확실한 출발점이고, KV 캐시는 제품별 쓰기 수명과 소프트웨어가 증명해야 할 확장 영역입니다.
표준의 경쟁자는 다른 NAND 회사만이 아닙니다
HBF가 해결하려는 문제는 HBM의 용량 부족입니다. 같은 문제를 푸는 방법은 여러 가지입니다.
| 경로 | 강점 | 제약 | HBF와의 관계 |
|---|---|---|---|
| HBM 확대 | 가장 낮은 지연과 높은 대역폭, 성숙한 생태계 | 높은 비용, 제한된 스택 용량과 패키지 면적 | HBF의 핵심 보완재 |
| 온패키지 LPDDR | NAND보다 빠른 쓰기와 높은 내구성 | 패키지 구현과 표준 제품이 아직 불명확 | 읽기·쓰기 혼합 계층의 직접 대안 |
| CXL·칩 간 연결 DRAM | 큰 공유 용량, 유연한 확장 | xPU 패키지 밖의 지연과 대역폭 제약 | KV 오버플로 계층의 대안 |
| 고성능 SSD·플래시 모듈 | 수TB 이상 용량, 기존 저장장치 생태계 | PCIe 경로와 수십GB/s급 대역폭 | 더 차가운 데이터 계층 |
| HBF | 온패키지, 최대 512GB, 높은 읽기 대역폭 | NAND 지연, 쓰기, 전력, 새 소프트웨어 | 정적·읽기 중심 용량 계층 |
이 구도에서 샌디스크와 SK하이닉스는 단순 NAND 공급자보다 높은 부가가치를 노립니다. HBF에는 특수 NAND, 로직 베이스 다이, TSV 적층, UCIe PHY, 펌웨어와 소프트웨어가 필요합니다. 반대로 xPU 업체가 HBF 포트를 넣지 않거나 온패키지 LPDDR와 CXL 메모리로 충분하다고 판단하면, 표준이 있어도 시장은 열리지 않습니다.
현재 공개된 컨소시엄 참여사는 메모리 쪽의 샌디스크·SK하이닉스, 수요와 연산 쪽의 구글·텐스토렌트입니다. 패키징, UCIe IP, 운영체제와 AI 런타임까지 이어지는 공급망은 아직 공개되지 않았습니다. 개방형 표준의 진짜 성과는 참여 회사 수보다 서로 다른 공급자의 실리콘과 소프트웨어가 연결되는 첫 상호운용 사례에서 확인될 것입니다.
삼성 zHBM은 HBF와 직접 대체 관계가 아닙니다. zHBM은 가장 뜨거운 데이터를 위해 DRAM과 로직을 xPU 위에 쌓는 초고속 계층이고, HBF는 더 큰 읽기 중심 데이터를 맡는 용량 계층입니다. 두 기술이 모두 실현되면 AI 패키지는 zHBM·HBM → HBF → SSD처럼 더 많은 층을 갖게 됩니다. 메모리 경쟁은 한 종류가 모두를 이기는 방향보다, 데이터를 접근 빈도와 쓰기 특성에 따라 나누는 방향으로 가고 있습니다.
상용화는 여섯 가지 증거로 판별해야 합니다
첫 표준 사양이 실제 제품 생태계로 이어졌는지는 다음 증거로 확인할 수 있습니다.
공개 규격과 적합성 시험: 버전 번호가 붙은 상세 규격, 등급별 정확한 수치, 측정 방법과 상호운용 시험이 공개돼야 합니다.
작동 실리콘: 8단·16단 HBF가 실제 xPU와 UCIe로 연결돼 동작하는 시제품이 필요합니다. 패키지 모형과 로드맵은 실리콘 검증이 아닙니다.
실효 성능: 순차 읽기 최대값뿐 아니라 작은 페이지와 무작위 접근에서의 대역폭, 평균·꼬리 지연, 동시 요청 수, 데이터 배치에 따른 편차가 공개돼야 합니다.
쓰기와 수명: 쓰기 대역폭, 프로그램·삭제 수명, 쓰기 증폭, 데이터 보존기간과 온도 조건을 함께 제시해야 합니다. 특히 KV 캐시를 HBF에 넣는 제품은 하루 쓰기량과 보증 수명을 연결해야 합니다.
전력·열·수율: 메모리만의 전력보다 UCIe, 로직 다이와 냉각을 포함한 패키지 전력이 중요합니다. 16단 NAND와 로직 다이의 적층 수율도 제품 가격을 좌우합니다.
고객 시스템 경제성: 같은 지연 목표에서 HBM 전용, HBM+HBF, 온패키지 LPDDR, CXL DRAM, SSD 오프로딩을 비교해야 합니다. 가속기 수, 처리량, 전력, 냉각, 소프트웨어 개발비를 모두 포함한 총비용이 최종 기준입니다.
HBF의 첫 표준은 메모리보다 인터페이스의 사건입니다
HBF 첫 사양은 HBM과 SSD 사이의 빈칸에 이름만 붙인 발표가 아닙니다. NAND 스택의 용량과 성능 등급, xPU와의 UCIe 연결, 패키징 신뢰성과 소프트웨어 I/O까지 공동 설계의 경계를 처음으로 제시했습니다. HBF가 한 회사의 로드맵에서 여러 회사가 구현할 수 있는 생태계로 이동하기 위한 첫 조건이 생겼습니다.
동시에 현재의 HBF는 양산 제품이 아닙니다. 3TB/s는 표준 범위의 상한이며 1세대 확정 속도가 아니고, 512GB는 최대 용량 규격이지 고객 시스템의 검증 결과가 아닙니다. NAND의 긴 지연과 쓰기 한계는 사라지지 않았고, UCIe를 채택해도 xPU와 소프트웨어가 저절로 준비되지는 않습니다.
HBF의 초기 승부처는 모든 데이터를 담는 범용 메모리가 아니라, 한 번 쓰고 여러 번 읽는 대형 모델 가중치와 검색 데이터입니다. 그 좁고 분명한 역할에서 실리콘과 상호운용성을 증명하면 AI 메모리는 HBM과 SSD의 두 층에서 HBM·HBF·SSD의 세 층으로 바뀔 수 있습니다. 표준은 그 가능성을 열었고, 제품은 이제부터 증명해야 합니다.
본 글은 2026년 8월 6일 기준 공개된 기업 발표, 표준화 기구 자료와 연구 논문을 바탕으로 작성한 기술·산업 분석입니다. HBF 첫 사양의 상세 본문은 OCP 반공개 워크스트림 밖에서 확인되지 않았으며, 성능 등급·제품 일정·상호운용성의 일부 세부 사항은 미공개입니다. 기업 로드맵과 연구 수치는 작동 HBF 실리콘에서 독립 검증된 결과가 아닙니다. 특정 종목에 대한 투자 판단은 다루지 않습니다.
주요 출처: SK하이닉스·샌디스크 HBF 첫 사양 발표 · OCP 반공개 워크스트림 · HBF 표준화 컨소시엄 출범 · 샌디스크 HBF 기술 자료 · 샌디스크 2025 투자자 설명 자료 · UCIe 규격 소개 · FlashAccel · Is High-Bandwidth Flash All You Need? · HAVEN · FMS 2026 HBF 패널