휴머노이드가 오래 일하면, 몸 안에도 HBM이 필요할까
공장에서 같은 부품을 여덟 시간 옮기는 로봇이 있습니다. 다른 로봇은 아침부터 집안일을 맡아 저녁 손님맞이까지 준비합니다. 둘 다 오래 일하지만, 필요한 지능과 기억은 다릅니다.
첫 번째 로봇은 익숙한 인식과 동작을 반복할 수 있습니다. 두 번째 로봇은 물건을 어디로 옮겼는지, 무슨 일을 마쳤는지, 나중에 해야 할 일이 무엇인지 기억해야 합니다. 재료가 없으면 조리 계획을 바꾸고, 청소 중 물건이 깨지면 기존 순서를 중단해야 합니다. 이 글의 가정은 이런 범용적인 장기 과제가 로봇의 로컬 컴퓨팅에 어떤 요구를 만들 것인가입니다. 현재 제품이 이미 하루 동안 이 모든 일을 완수한다는 뜻은 아닙니다.
휴머노이드가 오래 자율적으로 일할수록 로컬 메모리의 중요성은 커집니다. 그러나 장시간 가동이 곧 HBM의 필수화를 뜻하지는 않습니다. HBM 채택을 결정하는 것은 몇 시간을 일했는지가 아니라, 매 순간 얼마나 큰 모델과 작업 상태를 얼마나 빠르게 읽어야 하는가입니다.
이 구분은 산업을 바라보는 방식도 바꿉니다. 로봇의 기억이 늘어나는 기회와, 로봇 몸 안에 HBM이 들어가는 기회는 같은 시장이 아닙니다.
오래 일하는 것과, 오래전 일을 기억해야 하는 것
장시간 가동은 우선 누적 연산량의 문제입니다. 같은 모델을 같은 빈도로 반복 실행한다면 여덟 시간의 총연산량은 늘어나지만, 한 순간에 필요한 메모리 용량과 대역폭까지 반드시 커지지는 않습니다.
반면 과거의 행동이 지금의 판단에 영향을 주는 과제는 다릅니다. 예를 들어 버튼을 누르기 전후의 모습이 비슷하다면, 현재 영상만으로는 이미 버튼을 눌렀는지 알기 어렵습니다. 지금 무엇이 보이는가에 더해, 앞서 무엇을 했는가를 알아야 합니다.
실제 MemoryVLA 연구가 다루는 문제도 이런 시간적 의존성입니다. 이 연구는 현재 관찰에서 얻은 작업 메모리와 과거 정보를 보관하는 메모리 뱅크를 구분하고, 현재 결정에 관련된 기억을 가져와 행동 생성에 반영합니다. MemoryVLA 논문, 2026년 1월 30일 수정본
따라서 장기 과제의 메모리 요구를 판단할 때는 두 질문을 나누어야 합니다. 얼마나 많은 정보를 보관해야 하는가. 그리고 그중 얼마를 다음 판단에서 다시 읽어야 하는가.
로봇의 장기기억을 모두 HBM에 넣을 필요는 없습니다
HBM은 연산기에 데이터를 높은 대역폭으로 공급하는 DRAM입니다. 여기서 대역폭은 단위 시간에 옮길 수 있는 데이터의 양을 뜻합니다. 영구 기록을 보관하는 SSD와는 역할이 다릅니다. Micron도 HBM을 연산기 패키지 안에서 높은 대역폭과 에너지 효율을 제공하는 메모리로 설명합니다. Micron 기술 설명
로봇의 정보를 역할별로 나누면 다음과 같은 설계가 가능합니다. 아래는 필자가 구성한 개념적 구분이며, 특정 제품의 확정된 구성은 아닙니다. 작업 맥락과 추론 작업공간은 같은 물리 DRAM을 공유할 수도 있습니다.
| 정보의 역할 | 로봇에서의 예시 | 우선하는 특성과 저장 위치의 예 |
|---|---|---|
| 장기 보관 | 과거 작업 기록, 영상, 환경 지도 | 보존성과 용량: NAND·SSD |
| 현재 작업 맥락 | 진행 중인 계획, 최근 사건, 물체 위치 | 빠른 접근과 용량: DRAM |
| 추론 작업공간 | 모델 가중치, 중간 계산값, KV 캐시 | 용량과 대역폭: LPDDR 또는 HBM |
| 즉각적인 제어 상태 | 관절·힘·자세 제어에 필요한 값 | 일정한 응답시간: 전용 제어기와 온칩 메모리 등 |
가령 두 시간 전에 열쇠를 서랍에 넣었다는 사실을 기억하기 위해 두 시간의 영상을 매번 다시 볼 필요는 없습니다. 위치와 관련 사건을 저장하고 필요할 때 해당 장면을 찾는 설계가 가능합니다. 과거 전체를 추론 작업공간에 계속 올려두는 방식과, 필요한 기억만 불러오는 방식은 대역폭 요구가 다릅니다.
MemoryVLA도 중복된 기억을 합치고 관련 항목을 검색하는 방식을 사용합니다. 이 사례가 뒷받침하는 것은 장기 과제에 기억 관리가 중요하다는 점입니다. 모든 과거 프레임을 끝없이 커지는 모델 입력에 넣어야 한다는 주장은 아닙니다. MemoryVLA 본문
물론 압축이 공짜는 아닙니다. 버린 정보가 나중에 중요해질 수 있습니다. 그래서 필요한 지표는 압축률 자체가 아니라, 압축한 뒤에도 과제를 정확하게 완수하는가입니다.
모델이 들어간다는 것과, 충분히 빨리 돌아간다는 것
메모리 용량은 얼마나 많이 담을 수 있는가의 문제입니다. 대역폭은 담긴 정보를 얼마나 빨리 연산기로 옮기는가의 문제입니다. 큰 모델이 메모리에 들어간다는 사실만으로 원하는 속도가 보장되지는 않습니다.
NVIDIA는 자기회귀형 언어모델이 출력 토큰을 하나씩 생성하는 단계에서 가중치와 중간 상태의 데이터 이동이 지연의 주요 병목이 될 수 있다고 설명합니다. 여러 요청을 묶어 가중치를 재사용하거나 계산·메모리 구조를 바꾸면 양상은 달라집니다. NVIDIA 추론 최적화 설명
이 차이를 보기 위해 단순한 계산을 해보겠습니다. 밀집형 모델 하나가 요청 하나를 처리하고, 출력 토큰마다 전체 가중치를 DRAM에서 한 번 읽는다고 가정합니다. 가중치는 모두 4비트로 저장하며, 목표 속도는 초당 20토큰입니다. B는 매개변수 10억 개를 뜻하고, GB는 10억 바이트 기준입니다.
순수 가중치 용량 = 매개변수 수 × 4비트 ÷ 8비트/바이트
가중치 읽기 대역폭 = 순수 가중치 용량 × 초당 생성 토큰 수
| 설명용 모델 규모 | 4비트 순수 가중치 용량 | 초당 20토큰일 때 가중치 읽기 대역폭 |
|---|---|---|
| 7B | 3.5GB | 70GB/s |
| 30B | 15GB | 300GB/s |
| 70B | 35GB | 700GB/s |
예를 들어 70B는 700억 × 0.5바이트 = 350억 바이트, 즉 35GB입니다. 이를 초당 20회 읽으면 700GB/s가 됩니다. 표는 필자의 산술 예시이며 제품 실측값이 아닙니다. 양자화 부가정보, KV 캐시, 중간 계산값, 운영체제와 다른 모델의 부하는 제외했습니다. 이 가정 아래에서는 가중치 읽기 항만 계산한 것이므로 전체 시스템 요구량으로 읽으면 안 됩니다.
언어모델의 초당 토큰 수를 로봇의 초당 행동 수로 바꿔 읽어서도 안 됩니다. 행동을 여러 단계 묶어 생성하는 모델, 확산 방식의 행동 모델, 일부 매개변수만 사용하는 모델은 연산과 데이터 이동 구조가 다릅니다. 또한 4비트로 줄인 뒤에도 원래의 작업 정확도를 유지하는지는 별도로 확인해야 합니다.
이 계산이 보여주는 것은 하나입니다. 모델 용량이 충분하더라도 목표 처리 속도를 내려면 별도의 대역폭 조건을 충족해야 합니다.
현재의 고성능 로봇 플랫폼은 LPDDR를 선택했습니다
NVIDIA의 로봇·엣지용 Jetson Thor는 이 논의를 구체화하는 비교 기준입니다. 조회한 공식 사양에서 T5000과 T4000은 모두 HBM이 아닌 LPDDR5X를 사용합니다.
| 모듈 | 메모리 | 명목 메모리 대역폭 | 모듈 전력 범위 |
|---|---|---|---|
| Jetson T5000 | 128GB LPDDR5X | 273GB/s | 40~130W |
| Jetson T4000 | 64GB LPDDR5X | 273GB/s | 40~70W |
출처는 NVIDIA Jetson Thor 공식 사양이며, 2026년 10월 3일 조회 기준입니다. 전력은 로봇 전체가 아닌 해당 모듈의 범위입니다. 두 제품은 메모리 용량이 두 배 차이 나지만 대역폭은 같습니다.
앞의 70B 예시에서 35GB의 가중치는 128GB 안에 들어갑니다. 그러나 그 가중치를 초당 20번 읽는다는 가정의 700GB/s는 273GB/s보다 큽니다. 저장 가능성과 목표 속도의 달성 가능성은 별개라는 뜻입니다. 이 비교만으로 해당 모델의 실제 실행 속도나 로봇 성능을 산출할 수는 없습니다.
다른 쪽에는 HBM이 있습니다. Micron은 HBM3E의 스택 하나당 대역폭을 1.2TB/s 초과로 제시합니다. 메모리 인터페이스의 차이를 보여주는 수치이지, HBM을 장착하면 로봇이 같은 비율로 빨라진다는 뜻은 아닙니다. 연산기·메모리 용량·전력·소프트웨어가 다른 시스템의 완성품 성능을 비교한 것도 아닙니다. Micron HBM3E 사양
현재 Jetson의 선택은 고성능 로컬 로봇 연산을 LPDDR로 구현하는 경로가 있다는 근거입니다. 앞으로도 HBM이 필요하지 않다는 증명은 아닙니다. 반대로 대역폭이 높은 HBM이 존재한다는 사실도 로봇에서의 채택을 보장하지 않습니다.
HBM의 가치가 커지는 조건은 기억의 양보다 판단의 밀도입니다
필자는 로컬 HBM의 채택 가능성을 높이는 조건을 동시 추론, 미래예측, 통신 독립성에서 봅니다. 이는 공개된 제품·연구에서 도출한 가설이며 채택 전망이 확정됐다는 뜻은 아닙니다.
여러 모델이 같은 시간에 큰 데이터를 읽는 경우입니다. 로봇이 영상을 이해하고, 음성을 듣고, 다음 행동을 생성하며, 실패 가능성을 감시하는 동안 모델들이 메모리 자원을 경쟁할 수 있습니다. NVIDIA도 엣지 시스템에서 여러 처리 경로가 병행될 때 메모리 관리가 안정적인 실시간 성능에 중요하다고 설명합니다. 다만 모든 기능을 별개의 거대 모델로 처리해야 하는 것은 아닙니다. NVIDIA 엣지 메모리 최적화
행동하기 전에 여러 미래를 계산하는 경우입니다. 컵을 잡을 수 있는지만 판단하는 데서 그치지 않고, 미끄러질 가능성이나 주변 사람의 움직임까지 고려해 행동 후보를 평가하는 상황입니다. 예측의 크기, 후보 수, 실행 빈도를 높이면 연산과 메모리 요구가 커질 수 있습니다. 단, 데이터를 재사용할 수 있는 구조라면 후보 수와 대역폭이 같은 비율로 늘지는 않습니다.
2026년 6월 8일 공개된 MemoryVLA++는 과거 기억에 더해 세계모델이 예측한 미래 상태를 행동 생성에 결합합니다. 세계모델은 환경이 다음에 어떻게 변할지 예측하는 모델입니다. 이 연구는 기억과 미래예측을 결합하는 방향을 보여주지만, 로봇 몸 안의 HBM이 필수라는 사실을 입증하지는 않습니다. MemoryVLA++ 논문
그 판단을 통신 없이 수행해야 하는 경우입니다. 네트워크로 외부 연산기에 판단을 맡기는 방식은 로컬 부담을 줄일 수 있지만 연결과 지연이라는 조건이 붙습니다. Google DeepMind는 2025년 6월 발표한 Gemini Robotics On-Device에서 지연에 민감하거나 연결이 불안정한 환경을 로컬 실행의 장점으로 제시했습니다. 이 역시 로컬 실행의 근거이지 HBM 채택의 근거는 아닙니다. Google DeepMind 발표
이 조건들이 겹치면 메모리의 가치는 보관 용량을 넘어섭니다. 큰 모델과 현재 상태, 예측 중인 상태를 짧은 시간 안에 반복적으로 읽어야 합니다. 그때 LPDDR 기반 설계를 최적화해도 요구 성능을 충족하지 못한다면, HBM을 포함한 더 높은 대역폭의 설계가 검토 대상이 됩니다.
가장 강한 반론은 더 작은 지능과 더 나은 실행 구조입니다
HBM 보편화 가설에 대한 강한 반론은 로봇이 충분히 작은 모델과 효율적인 기억 구조로 필요한 일을 해낼 수 있다는 것입니다. 모델 크기와 과제 성공률의 관계를 확인하지 않은 채 미래의 로봇 모델이 무조건 커질 것이라고 가정해서는 안 됩니다.
우선 무거운 상황 판단과 빠른 행동 생성을 같은 구조·빈도로 실행할 필요는 없습니다. GR00T N1은 시각·언어를 해석하는 모듈과 실시간 행동을 생성하는 확산 트랜스포머를 결합합니다. 모델 안에서 기능을 나누는 실제 사례입니다. 다만 이런 이중 구조가 저수준 관절 제어나 안전 제어 전체를 대체한다는 뜻은 아닙니다. GR00T N1 논문, 2025년 3월 27일 수정본
메모리 수요를 줄이는 방법도 있습니다. NVIDIA는 불필요한 소프트웨어 부하를 줄이고, 낮은 정밀도의 숫자로 모델을 표현하는 양자화를 적용하며, 특정 영상 처리를 전용 가속기로 옮기는 방법을 설명합니다. 중요한 조건은 최적화 후에도 요구 정확도와 지연시간을 충족해야 한다는 것입니다. NVIDIA 최적화 가이드
장기 과제의 성공률이 개선되는데 로컬 메모리 사용량과 대역폭은 크게 늘지 않는다면, HBM 필수화 가설은 약해집니다. 반대로 압축과 경량화를 적용해도 중요한 기억을 잃거나 판단이 늦어져 실패가 반복된다면, 더 큰 메모리 시스템의 경제적 가치가 커집니다.
대역폭의 증가와 응답시간의 감소도 동일한 말이 아닙니다. 데이터 이동이 아닌 계산, 모델 간 동기화, 센서 처리, 실제 동작이 병목이면 메모리만 빨라져도 전체 작업시간은 크게 줄지 않을 수 있습니다.
전력은 메모리 이름이 아니라 성공한 작업을 기준으로 봐야 합니다
HBM을 단순히 전기를 많이 먹는 메모리로 보는 것도 부정확합니다. Micron은 높은 대역폭을 작은 면적과 효율적인 데이터 경로로 제공한다는 점을 강조합니다. 다만 이 설명으로 HBM이 모든 로봇에서 LPDDR보다 총전력을 덜 쓴다고 결론 내릴 수는 없습니다. 연산기와 패키징, 냉각을 포함한 시스템 수준의 비교가 필요합니다. Micron 기술 설명
경제성의 질문은 더 구체적이어야 합니다. HBM을 도입해서 늘어나는 비용과 열 관리 부담보다, 작업시간 단축과 실패·재시도 감소의 이익이 큰가입니다.
필자가 제안하는 비교 단위는 성공한 작업 한 건당 에너지와 비용입니다. 더 강한 연산 시스템이 순간적으로 전력을 많이 쓰더라도 일을 빨리 마치고 재시도를 줄인다면 작업당 에너지는 낮아질 수 있습니다. 반대로 요구 성능을 LPDDR로 충족하는데 HBM을 추가한다면 비용만 높아질 수 있습니다. 어느 쪽인지는 같은 과제와 환경에서 측정해야 합니다.
로봇용 반도체 기업에 물어야 할 질문
로봇용 GPU나 NPU를 평가할 때 최대 연산성능이나 탑재 가능한 모델 규모만 보면 중요한 차이를 놓칠 수 있습니다. 센서 입력부터 행동 출력까지 이어지는 실제 처리 경로를 확인해야 합니다. GPU와 HBM, NPU와 LPDDR를 고정된 조합으로 생각해서도 안 됩니다. Jetson Thor 자체가 GPU와 LPDDR를 결합한 사례입니다. NVIDIA 공식 사양
필자가 확인하려는 항목은 다음과 같습니다.
| 확인할 항목 | 판단하려는 내용 |
|---|---|
| 장기 과제의 완수율과 사람 개입 횟수 | 기억과 추론의 개선이 실제 자율성으로 이어지는가 |
| 여러 모델을 함께 실행할 때의 메모리 사용량과 대역폭 | 단일 모델 시연에서 감춰진 자원 경쟁이 있는가 |
| 지연시간의 분포와 제한시간 초과 빈도 | 평균 속도는 좋아도 중요한 순간에 멈추는가 |
| 압축·양자화 전후의 실패 유형 | 절감한 자원만큼 중요한 정보나 행동 정확도를 잃는가 |
| 성공한 작업당 에너지와 총비용 | 더 비싼 컴퓨팅이 고객의 작업 원가를 낮추는가 |
관심을 둘 시장도 구분할 필요가 있습니다. 로봇 한 대의 로컬 메모리 용량 확대, 높은 대역폭을 제공하는 칩·패키징, 적은 자원으로 장기 과제를 완수하는 소프트웨어는 서로 다른 기회입니다. 이는 산업 구조에 대한 필자의 해석이며, 특정 기업의 매출 증가나 부품 채택을 확인한 결과는 아닙니다.
하루 종일 집안일을 맡는 로봇으로 돌아가 보겠습니다. 그 로봇에게 필요한 것은 하루 동안 본 모든 장면을 가장 비싼 메모리에 쌓아두는 능력이 아닙니다. 무엇을 기억해야 하는지 고르고, 필요한 기억을 꺼내며, 다음 행동의 결과를 제때 판단하는 능력입니다.
휴머노이드가 오래 일해서 HBM이 필요해지는 것이 아닙니다. 오래 자율적으로 일하기 위해 더 많은 상황과 가능성을 동시에 계산해야 할 때, 로컬 HBM의 가치가 커집니다. 채택을 확인할 증거는 실행시간의 증가가 아니라, 최적화한 LPDDR 시스템으로는 충족하지 못했던 작업을 HBM 시스템이 더 낮은 작업당 비용으로 완수하는 결과입니다.
자료 기준과 해석 범위
자료 확인 기준일은 2026년 10월 3일입니다. 제품 수치는 제조사 사양이며 독립 실측값이 아닙니다. 논문은 로봇 기억·행동 구조에 관한 연구 근거로 사용했고, 양산 배치나 HBM 채택의 증거로 사용하지 않았습니다. 모델 용량·대역폭 표는 가정을 명시한 필자의 계산입니다. 산업 기회와 검증 항목은 필자의 판단입니다. 비공개 기업 자료와 개별 기업의 거래 판단은 포함하지 않았습니다.
| 주요 자료 | 발표일·버전 또는 기준 | 이 글에서 확인한 내용 |
|---|---|---|
| NVIDIA Jetson Thor | 제품 페이지, 2026-10-03 조회 | T5000·T4000의 메모리·대역폭·전력 사양 |
| MemoryVLA | 최초 2025-08-26, v2 2026-01-30 | 작업 메모리, 기억 검색, 중복 병합 |
| MemoryVLA++ | 2026-06-08 | 기억과 미래 상태 예측의 결합 |
| GR00T N1 | 최초 2025-03-18, v2 2025-03-27 | 시각·언어 해석과 행동 생성의 이중 구조 |
| Gemini Robotics On-Device | 2025-06-24 | 로컬 실행과 지연·연결 제약의 관계 |
| NVIDIA 추론 최적화 | 최초 2023-11-17, 조회본 기준 | 디코딩의 메모리 병목과 가중치 재사용 |
| NVIDIA 엣지 메모리 최적화 | 2026-04-20, 2026-07-13 갱신 표시 | 양자화·실행 구조·전용 가속기의 최적화 |
| Micron HBM3E | 제품 페이지, 2026-10-03 조회 | 스택당 대역폭, 완성품 비교와의 구분 |
| Micron HBM 기술 설명 | 본문 게시일 미확인, 2026-10-03 조회 | 패키지 내 고대역폭 메모리와 에너지 효율 |