1비트를 얻으려 4비트를 버립니다: 메모리를 사던 회사들이 직접 그리기 시작했습니다

8월 초 산타클라라에서 열린 메모리·스토리지 학회 FMS 2026 무대에서 이런 대화가 오갔습니다. 팻 겔싱어 전 인텔 CEO가 먼저 도발했습니다. "HBM은 형편없는 메모리다." 근거도 구체적이었습니다. HBM에서 1비트를 만들기 위해 명목상 기존 메모리 4비트를 포기하게 되고, 그래서 비트 효율, 전력 효율, 대역폭 효율이 모두 낮다는 것입니다.

받은 사람은 SK하이닉스에서 메모리 시스템 리서치를 맡는 김호식 부사장이었습니다. "어느 정도 동의한다. HBM은 메모리 월 문제의 최종 해답은 아니다." 겔싱어가 웃으며 "SK하이닉스가 HBM이 나쁜 메모리라고 인정하는 것이냐"고 되묻자, 김 부사장은 워딩을 고쳐 잡았습니다. "나쁜 메모리라는 뜻이 아니다. 현재 우리가 가진 메모리 가운데 가장 좋은 메모리다."

형편없다는 말과 가장 좋다는 말이 한 무대에서 둘 다 성립했습니다. 모순이 아닙니다. 이 간극이야말로 지금 반도체 산업에서 가장 중요한 이동, 즉 메모리의 정의권이 만드는 쪽에서 사는 쪽으로 넘어가는 이동을 정확히 가리키고 있습니다.

형편없는 물건이 가장 비싼 부품이 된 이유

두 사람의 말이 동시에 참인 구조부터 봐야 합니다.

메모리 월은 새 문제가 아니지만, 에이전트 추론이 그 성격을 바꿨습니다. 학습은 연산이 지배하는 일이었는데 추론은 다릅니다. 토큰 하나를 낼 때마다 모델 가중치와 KV 캐시를 통째로 실어 날라야 하고, 컨텍스트가 백만 토큰으로 늘어나면 이 짐이 연산보다 먼저 시스템을 눌러 버립니다. 연산 1피코줄 대 데이터 이동 1000배라는 에너지 비대칭은 제프 딘이 퇴사 전 인터뷰에서 짚었던 바로 그 숫자입니다.

HBM은 이 벽에 대한 응답이었지만, D램을 수직으로 쌓고 TSV로 뚫는 구조는 겔싱어의 지적대로 비싸고 뜨겁고 비효율적입니다. 그런데도 대안이 없어서 세계에서 가장 비싼 부품이 됐습니다. "최종 해답이 아닌 것"이 "현재의 최선"인 상태. 이런 상태는 오래가지 않습니다. 간극이 크고 판돈이 커지면, 물건을 사던 쪽이 직접 설계도를 들고 들어옵니다.

인텔의 노선: 메모리를 다시 발명한다

인텔은 두 갈래로 움직이고 있습니다. 둘 다 "HBM의 구조 자체를 바꾸겠다"는 쪽입니다.

Z-앵글 메모리(ZAM)는 2026년 2월 소프트뱅크 자회사 사이메모리(SAIMEMORY)와의 협업으로 발표됐습니다. 이름이 곧 구조입니다. 지금까지 모든 HBM이 쓰는 수직 관통 전극(TSV) 대신, 층 사이를 Z자 대각선으로 잇는 배선을 씁니다. 발표 기준 스펙은 공격적입니다. 9층 적층 데모에서 스택 면적 171제곱밀리미터에 스택당 대역폭 5.3TB/s, 회사 주장 기준으로 HBM4 대비 대역폭 2배, 용량 2~3배, 전력 절반입니다. 시제품은 2028년, 상용화는 2030년 목표입니다.

크로스배치 메모리(XBM)는 인텔 단독 특허로 드러난 더 급진적인 안입니다. D램의 트랜지스터 구조 자체를 바꾸고, HBM 원가의 큰 몫을 차지하는 실리콘 인터포저를 아예 없애고, 연결은 UCIe 표준 링크로 대체하며, 불량 셀을 스스로 고치는 내장 수리 회로를 넣습니다. 보도 기준 상용화 시점은 2030년 이후로, ZAM보다 뒤입니다.

말과 사람도 방향을 확인해 줍니다. 립부 탄 인텔 CEO는 2분기 실적 발표에서 메모리를 AI 인프라의 최대 공급 제약으로 꼽으면서, 연산과 메모리를 어떻게 더 긴밀하게 통합하고 적층할지 연구 중이라고 밝혔습니다. 그리고 인텔은 이석희 전 SK하이닉스 CEO를 파운드리 수석부사장으로 영입했습니다. 메모리 회사의 경영 노하우 자체가 연산 회사의 스카웃 대상이 된 것입니다.

엔비디아의 노선: 메모리를 우회한다

엔비디아의 움직임은 반대 방향에서 왔습니다. 새 메모리를 발명하는 대신, 외부 메모리 자체를 줄이는 쪽입니다.

수순이 흥미롭습니다. 2025년 9월 엔비디아는 긴 컨텍스트 프리필 전용으로 HBM 대신 GDDR7 128GB를 얹은 루빈 CPX를 발표했습니다. 워크로드를 쪼개 비싼 HBM을 아끼는 계층화 전략이었습니다. 그런데 보도 기준으로 2025년 12월 24일 그록(Groq)과 200억 달러 규모의 비독점 라이선스·인재 영입 계약을 맺었고, 존 로스 CEO를 포함한 핵심 인력이 합류했습니다. 그리고 GTC 2026에서 그 첫 결과물인 그록 3 LPU와 LPX 랙을 공개했습니다. 다이 하나에 SRAM 512MB를 박아 다이당 150TB/s, LPU 256개를 묶은 랙 전체로 SRAM 128GB에 총 대역폭 40PB/s라는 구성입니다(발표 기준, 삼성 4나노 공정). 같은 무대에서 루빈 CPX는 슬라이드에서 사라졌습니다. 공식 취소 발표는 없었지만 로드맵에서 빠진 것으로 보인다는 관측이 지배적입니다.

SRAM 노선의 본질은 대역폭과 용량의 맞교환입니다. 연산 칩 안의 SRAM은 HBM보다 자릿수로 빠르지만 자릿수로 작습니다. 그래서 이 노선은 지연시간이 목숨인 디코드 구간에 특화되고, 큰 모델은 여러 칩에 쪼개 얹어야 합니다. 이 구도는 앞서 퀄컴의 HBC와 세레브라스의 두 해법에서 다룬 갈림길의 연장인데, 달라진 것은 무게중심입니다. SRAM 노선이 스타트업의 반란이 아니라 엔비디아 로드맵의 공식 구성품이 됐습니다.

세 노선이 그리는 지도, 그리고 SK하이닉스의 응수

SK하이닉스가 같은 FMS 2026 무대에서 내놓은 답이 세 번째 노선입니다. 발표 기준으로 회사는 HBM, D램, 낸드, SSD를 하나로 묶는 계층형 메모리를 제시했습니다. 인프라 경쟁력은 더 이상 개별 메모리 제품의 성능만으로 결정되지 않으며, 데이터를 어느 층에 놓고 이동을 얼마나 줄이느냐가 승부라는 것입니다. 구체 카드도 함께 나왔습니다. 낸드를 TSV로 쌓아 D램급 대역폭에 근접시키려는 고대역 플래시(HBF), 웨이퍼 본딩으로 전력 대비 성능을 2.5배 올린 375단 낸드(기업용 SSD는 2027년 상반기 양산 목표), 서버와 GPU가 메모리 풀을 공유하는 CXL 풀드 메모리입니다. HBF가 열어 줄 자리는 앞서 HBM·HBF·HBC의 세 전선에서 다룬 그 자리입니다.

정의권의 이동: 위협이자 승격입니다

이 사건들을 한 줄에 꿰면 삼성전자와 SK하이닉스에 던져진 질문이 또렷해집니다.

주의할 것은 이 이동을 일방적 위협으로만 읽으면 틀린다는 점입니다. 커스텀 HBM 베이스 다이처럼 고객 요구에 맞춘 공동설계는 메모리 회사 입장에서 커모디티 사이클을 벗어나 마진을 지키는 길이기도 합니다. 문제는 그다음 단계입니다. ZAM처럼 아키텍처의 소유권이 고객과 제3자에게 있는 물건이 표준이 되면, 메모리 회사는 설계 없는 제조사, 즉 메모리 파운드리로 밀릴 수 있습니다. 김호식 부사장의 "다른 해법들을 연구하고 있다"는 문장과 계층형 메모리 발표는, 정의권을 지키려면 부품이 아니라 계층 전체의 설계도를 자기가 들고 있어야 한다는 판단으로 읽힙니다.

시간표도 냉정하게 볼 필요가 있습니다. ZAM은 2030년, XBM은 그 뒤의 물건입니다. 그 사이 최소 4~5년은 여전히 HBM4와 HBM4E의 시간이고, 이 겨루기의 승부는 차세대 아키텍처가 아니라 누가 커스텀 공동설계의 파트너 자리를 차지하느냐에서 먼저 납니다. 볼 지표는 셋입니다. HBM4 커스텀 베이스 다이 수주가 어디로 쏠리는지, ZAM이 VLSI 심포지엄 2026에서 실측치를 내놓는지, 그리고 LPX 랙이 실제 배치에서 SRAM 노선의 용량 한계를 어떻게 다루는지입니다.

겔싱어의 도발로 돌아가면, "형편없는 메모리"가 세계에서 가장 비싼 부품이 된 것은 산업의 실패가 아니라 신호입니다. 임시방편이 저렇게 비싸게 팔린다는 것은 진짜 해답의 값어치가 그만큼 크다는 뜻이고, 그 값을 노리고 이제 메모리를 사던 회사들까지 연필을 들었습니다. 다음 판의 질문은 "누가 가장 좋은 메모리를 만드느냐"가 아니라 누구의 도면대로 만들어지느냐입니다.