퀄컴 HBC vs 세레브라스: 같은 병목, 정반대의 두 해법
AI 추론 가속기에서 요즘 가장 흥미로운 대비는 퀄컴의 HBC와 세레브라스(Cerebras)의 웨이퍼 스케일 칩입니다. 둘은 같은 문제에서 출발합니다. AI가 느려지는 이유는 연산이 부족해서가 아니라, 데이터를 메모리와 연산기 사이로 끊임없이 옮기는 비용 때문이라는 진단입니다. 그런데 해법은 정반대입니다.
퀄컴은 말합니다. 데이터를 옮기는 게 비싸면, 연산을 메모리 옆으로 가져가자. 세레브라스는 말합니다. 칩과 칩 사이 통신이 병목이면, 아예 웨이퍼 전체를 하나의 거대한 칩으로 만들자. 이 글은 두 접근을 구조와 워크로드 적합성, 검증 수준이라는 같은 잣대로 비교합니다. 분석 기준일은 2026년 6월 말이고, 인용한 성능 수치는 상당 부분 각 회사의 발표 기준 주장값으로 독립 검증 전이라는 점을 먼저 밝혀 둡니다. 특정 종목의 투자판단은 다루지 않습니다.
30초 요약
먼저 이름부터 바로잡습니다. 퀄컴 HBC는 High Bandwidth Cache가 아니라 High Bandwidth Compute입니다. HBM 같은 메모리 제품명이 아니라, DRAM 가까이에 연산을 붙여 LLM 추론의 디코드 병목을 줄이는 근접연산(near-memory compute) 아키텍처입니다.
세레브라스는 정반대 방향입니다. 퀄컴이 연산을 메모리 쪽으로 끌어간다면, 세레브라스는 웨이퍼 전체를 하나의 초대형 AI 프로세서로 만들어 연산과 SRAM, 인터커넥트를 한 실리콘 평면에 통합합니다. 세레브라스 발표 기준으로 WSE-3는 46,225제곱밀리미터, 4조 트랜지스터, 90만 AI 코어, 125 PFLOPS급입니다.
결론을 당겨 말하면, 이 둘은 "누가 이기나"의 문제가 아닙니다. AI 추론 시장이 갈라진다는 신호입니다. 퀄컴 HBC는 대량이고 저비용이며 긴 문맥을 다루는 추론에, 세레브라스는 극단적으로 지연이 낮아야 하는 프리미엄 추론에 각각 자리를 잡을 가능성이 큽니다.
정반대의 두 해법
| 항목 | 퀄컴 HBC | 세레브라스 WSE / CS-3 |
|---|---|---|
| 기본 철학 | 메모리 병목을 메모리 근처 연산으로 해결 | 칩 간 통신 병목을 단일 거대 칩으로 제거 |
| 물리 구조 | DRAM 스택과 연산 다이를 결합하는 근접연산 | 웨이퍼 전체를 하나의 AI 프로세서로 사용 |
| 주 타깃 | 하이퍼스케일 추론, 특히 디코드·긴 문맥·에이전트 | 초저지연 추론, 학습, 대형 병렬 처리 |
| 메모리 전략 | LPDDR 기반 대용량 (AI250 카드당 768GB, 랙당 43TB) | 44GB 온칩 SRAM + 외부 MemoryX 확장 |
| 대역폭 전략 | AI250 카드당 133 TB/s, 랙당 7.455 PB/s (실효, 발표 기준) | 21 PB/s 메모리, 214 Pbit/s 인터커넥트 (발표 기준) |
| 패키징 | HBM·CoWoS 의존을 낮추고 LPDDR·표준 패키징 | 특수 웨이퍼 스케일 패키징, 수랭, fail-in-place |
| 성숙도 | AI200 2026, AI250 2027 예정. HBC 실전 검증 초기 | WSE-3 이미 제품화. OpenAI 파트너십으로 추론 진입 |
| 핵심 리스크 | HBC 실제 연산 범위 미공개, 소프트웨어, 고객 검증 | 제조·냉각·수율·원가, 외부 메모리 의존, 고객 집중 |
같은 출발점: 데이터 이동이 병목
두 접근을 이해하려면 왜 추론이 메모리에 묶이는지를 먼저 봐야 합니다. LLM 추론은 크게 프리필과 디코드로 나뉩니다. 프롬프트를 한 번에 읽는 프리필은 연산이 무겁고, 한 토큰씩 생성하는 디코드는 가중치와 KV 캐시를 반복해서 읽어야 하므로 메모리 대역폭과 용량이 병목이 됩니다. 사용자가 많고 문맥이 길수록 디코드 구간이 비용을 좌우합니다.
퀄컴과 세레브라스는 이 데이터 이동 문제를 정반대로 공략합니다. 퀄컴은 연산을 메모리 옆으로 가져가 이동 거리를 줄이고, 세레브라스는 칩을 쪼개지 않아 칩 사이를 오가는 트래픽 자체를 없앱니다. 방향은 반대지만 노리는 지점은 같습니다.
퀄컴 HBC: 메모리 옆으로 연산을 가져간다
퀄컴은 HBC를 디코드 병목을 겨냥한 실효 대역폭 기술로 포지셔닝합니다. 회사 설명에 따르면 HBC는 메모리 다이와 연산 다이를 결합해, 산술강도가 낮은 연산을 SoC까지 보내지 않고 패키지 안에서 처리합니다. 이를 통해 이른바 HBM 세금을 피하고 전력당 토큰, 달러당 토큰을 개선한다는 주장입니다.
| 제품 | 상태 | 핵심 스펙 (발표 기준) | 의미 |
|---|---|---|---|
| AI200 | 2026 예정 | 카드당 768GB LPDDR, 랙당 43TB, 랙당 0.414 PB/s 실효, 56카드/랙, 140kW | HBC 이전 단계. 대용량 LPDDR 추론 랙 |
| AI250 | 2027 예정 | HBC Gen 1, 카드당 133 TB/s, 랙당 7.455 PB/s, 랙당 43TB | HBC 첫 본격 제품. 디코드 대역폭 18배 확대 |
| AI300 | 차세대 | HBC Gen 2, 랙 전체 스케일업, 파드 구성 | 랙 단위에서 파드 단위 추론 파이프라인으로 확장 |
강점은 세 가지입니다. 첫째, 대용량 메모리입니다. AI250은 카드당 768GB, 랙당 43TB 구조로 긴 문맥과 RAG, 에이전트 추론 체인에서 KV 캐시를 덜 버리게 합니다. 둘째, HBM 회피입니다. 퀄컴은 HBC가 HBM 기반 대비 전력당 대역폭이 6배, SRAM 기반 대비 전력당 용량이 200배 높다고 주장합니다. 다만 회사 추정치입니다. 셋째, 공급망입니다. HBM과 CoWoS 병목을 피하고 LPDDR 계열을 쓰면, 엔비디아 GPU와 HBM 공급망과는 다른 병목 구조를 만들 수 있습니다. 이 흐름은 본 블로그에서 다룬 HBM·HBF·HBC 비교의 근접연산 방향과 정확히 이어집니다.
약점도 분명합니다. 우선 실제 연산 범위가 아직 불명확합니다. Tom's Hardware는 HBC 가속기가 실제로 어떤 연산을 하는지, 트랜스포머 전용 근접연산 엔진인지 범용 텐서 배열인지 전처리 로직인지 퀄컴이 명확히 밝히지 않았다고 지적했습니다. 또 공개된 동일 조건 벤치마크가 부족합니다. AI250의 p50, p95 지연이나 첫 토큰 지연, 배치별 토큰 처리량, 토큰당 비용, 모델별 정확도 손실 여부가 충분히 공개되지 않았습니다. 그래서 4배에서 8배라는 전력당 성능 주장은 지금으로서는 회사 추정 기반의 로드맵 주장으로 봐야 합니다. 마지막으로 소프트웨어가 가장 큰 허들입니다. 데이터센터의 기본 생태계는 여전히 CUDA와 TensorRT, 엔비디아 네트워킹 중심이라, HBC가 우수해도 모델 포팅과 컴파일러 안정성이 약하면 채택 속도는 제한됩니다.
세레브라스: 웨이퍼 전체를 하나의 연산기로
세레브라스 WSE-3는 웨이퍼를 잘라 여러 다이를 만드는 기존 방식과 달리, 웨이퍼 규모의 실리콘을 하나의 AI 프로세서로 씁니다. 발표 기준으로 46,225제곱밀리미터, 4조 트랜지스터, 90만 AI 코어, 125 PFLOPS입니다. CS-3 시스템은 44GB 온칩 SRAM, 21 PB/s 메모리 대역폭, 214 Pbit/s 인터커넥트 대역폭을 내세웁니다. 웨이퍼 스케일에서 반드시 나오는 결함 문제는 결함을 완전히 없애는 대신 여분 코어와 여분 라우팅, fail-in-place 구조로 우회한다고 설명합니다.
강점은 통신 병목 제거와 실제 고객 검증입니다. OpenAI는 세레브라스의 속도 원천을 막대한 연산과 메모리, 대역폭을 하나의 거대한 칩에 결합해 기존 하드웨어의 추론 병목을 없앤 것이라고 설명했고, 세레브라스와 750MW 규모의 초저지연 AI 컴퓨트 파트너십을 발표했습니다. 이 용량은 2028년까지 여러 구간으로 나뉘어 순차 가동될 예정입니다. 코딩 에이전트나 음성 대화, 긴 출력 생성처럼 사용자가 실시간 반응성을 체감하는 작업에서는 사용자당 지연이 곧 제품 가치가 됩니다. 이 지점에서 세레브라스는 퀄컴 HBC보다 먼저 강한 레퍼런스를 확보했습니다.
약점은 SRAM 용량과 제조 난도, 범용성입니다. 44GB SRAM은 대역폭은 압도적이지만 초대형 밀집 모델 전체를 온칩에 담기에는 제한적이라, 외부 메모리와 가중치 스트리밍으로 확장하는 순간 모든 것이 온칩이라는 장점이 약해집니다. 또 웨이퍼 표면으로 직접 전력을 공급하고 내부 수랭 루프로 균일 냉각하는 구조는 기술 해자이면서 동시에 제조와 서비스, 원가 리스크입니다. 마지막으로 데이터센터의 모든 AI 작업이 웨이퍼 스케일에 이상적으로 맞는 것은 아닙니다. 범용성은 GPU나 랙 스케일 가속기보다 낮을 수 있습니다.
워크로드별로 누가 유리한가
두 접근은 시장 전체를 두고 겨루는 것이 아니라, 작업 성격에 따라 갈립니다. 아래는 어느 워크로드에 어떤 구조가 더 맞는지에 대한 정리입니다. 종목이 아니라 아키텍처 적합성에 대한 판단입니다.
| 워크로드 | 퀄컴 HBC | 세레브라스 | 적합성 |
|---|---|---|---|
| 실시간 채팅 스트리밍 | 강하나 HBC 실측 부족 | 매우 강함, OpenAI가 저지연 용도로 채택 | 현재는 세레브라스 |
| 디코드 대량 처리 | HBC가 겨냥하는 핵심 | 강하나 프리미엄 지연 쪽 | HBC 잠재력 큼 |
| 긴 문맥 / RAG | 카드당 768GB, 랙당 43TB로 유리 | 온칩 SRAM 44GB, 외부 확장 필요 | 퀄컴 구조적 유리 |
| 초저지연 단일 사용자 | 가능성 있으나 검증 부족 | 단일 거대 칩 구조상 강함 | 세레브라스 |
| 학습 | HBC는 추론 우선 | 학습도 핵심 용도 | 세레브라스 |
| 대량 추론 TCO | LPDDR·HBM 회피로 잠재력 | 성능은 강하나 특수 시스템 비용 | 퀄컴 잠재 우위 |
| 소프트웨어 생태계 | Hugging Face·추론 스위트 강조 | 독자 스택이나 레퍼런스 강함 | 둘 다 엔비디아 대비 약점 |
| HBM 공급 부족 회피 | LPDDR 활용으로 직접 유리 | HBM 의존 낮으나 특수 웨이퍼 공급망 | 퀄컴 유리 |
둘 다 엔비디아를 다르게 우회한다
여기서 중요한 관찰이 나옵니다. 두 회사 모두 엔비디아의 대체재를 지향하지만, 대체하는 방식이 완전히 다릅니다. 엔비디아는 GPU와 HBM, NVLink, CUDA 생태계를 하나로 묶은 조합입니다. 퀄컴은 이 가운데 HBM을 우회해 LPDDR과 근접연산으로 갑니다. 세레브라스는 GPU 클러스터 자체를 우회해 웨이퍼 스케일 단일 장치로 갑니다.
무엇을 지켜봐야 하나
두 접근의 성패는 발표 자료가 아니라 실측과 배치로 갈립니다. 어느 쪽이 실제로 검증되는지 볼 때 유용한 지표를 정리합니다. 매매 신호가 아니라 기술과 배치의 검증 체크포인트입니다.
퀄컴 HBC 쪽에서는 네 가지를 봅니다. AI250 HBC Gen 1의 실측 벤치마크(p50과 p95 지연, 첫 토큰 지연, 출력 토큰 처리량, 토큰당 비용), 마이크로소프트 배치의 성격(연구용인지 실제 서비스 추론인지, 어떤 모델군인지), HBC가 실제로 근접연산에서 처리하는 연산 범위의 공개(어텐션, FFN, KV 캐시, 양자화, MoE 라우팅 중 무엇인지), 그리고 추론 소프트웨어 스택의 성숙도입니다. 참고로 퀄컴은 2029년 데이터센터 매출 목표로 150억 달러를 제시했고, 로이터는 마이크로소프트가 HBC 기반 칩을 AI 작업에 쓸 것이라고 보도했습니다.
세레브라스 쪽에서는 OpenAI 750MW 용량의 실제 가동 속도, 헤드라인 속도가 아닌 대기 시간과 첫 토큰 지연을 포함한 종단간 지연, 어떤 모델은 웨이퍼에서 압도적으로 빠르고 어떤 모델은 외부 메모리나 분할 때문에 이점이 줄어드는지의 모델 적합성, 그리고 OpenAI 밖 고객의 다변화를 봅니다.
맺으며
정리하면 이렇습니다. 기술적으로는 세레브라스가 더 급진적입니다. 웨이퍼를 자르지 않고 거대 프로세서로 쓰는 방식은 수율과 패키징, 냉각, 전력 공급까지 모두 새로 설계해야 합니다. 성공하면 해자가 깊지만 실패 모드도 큽니다. 반면 사업적으로는 퀄컴 HBC가 더 넓게 확산될 여지가 있어 보입니다. 기존 데이터센터 랙과 PCIe, 이더넷, LPDDR 계열 메모리, 추론 소프트웨어를 활용해, 완전히 새로운 컴퓨팅 문법을 강요하기보다 기존 인프라에 더 쉽게 들어가려는 접근이기 때문입니다.
체감의 축도 다릅니다. 사용자가 응답이 즉시 나온다고 느끼는 초저지연 프리미엄 추론에서는 세레브라스가 강합니다. 수십억에서 수조 개의 토큰을 비용 효율적으로 처리해야 하는 대량 추론에서는 퀄컴 HBC의 달러당 토큰 논리가 매력적입니다. 그래서 이 비교의 결론은 승자를 고르는 것이 아니라, 추론 시장이 프리미엄 레인과 원가 레인으로 갈라진다는 관찰입니다. 세레브라스는 OpenAI 레퍼런스로 프리미엄 레인을 앞서 열었고, 퀄컴 HBC는 AI250과 AI300의 실측 성능과 고객 배치로 원가 레인을 증명해야 하는 단계입니다.
출처: 퀄컴 공식 Dragonfly·AI200·AI250·AI300 제품 자료, 세레브라스 공식 WSE-3·CS-3 자료, OpenAI의 세레브라스 파트너십 발표, 로이터, Tom's Hardware 산업 분석(2026년 6월 말 기준). 퀄컴의 전력당 대역폭과 실효 대역폭 수치, 세레브라스의 워크로드별 속도는 각 회사 발표 기준 주장값으로 독립 검증 전입니다. 최종 비교에는 동일 모델과 동일 정밀도, 동일 배치, 동일 문맥 길이, 첫 토큰 지연을 포함한 조건의 독립 벤치마크가 필요합니다. 본 글은 정보 제공 목적의 기술·산업 분석이며 투자 자문 목적이 아닙니다.