네오클라우드 해부: 왜 GPU를 구하지 못하고, 누가 그 틈을 메우며, 이 사업은 오래 갈까

지난 글들에서 젠슨 황의 다섯 개 층과 모델은 빙산의 일각이라는 이야기를 다뤘습니다. 이번에는 그 빙산의 수면 바로 아래, 가장 뜨거운 한 칸인 GPU 컴퓨트 시장을 가까이서 보겠습니다. 모두가 AI를 이야기하는데 정작 많은 기업은 GPU를 구하지 못합니다. 바로 그 빈틈에서 네오클라우드(NeoCloud)라는 새로운 사업자군이 자랐습니다.

네오클라우드는 GPU를 대량으로 사들여 AI 학습과 추론용 연산을 전문으로 빌려주는 신생 클라우드입니다. CoreWeave, Nebius, Crusoe, Lambda 같은 회사들이 대표적입니다. AWS나 애저 같은 범용 클라우드와 달리 AI 워크로드 한 가지에 특화해, 더 빠른 공급과 투명한 가격을 무기로 급성장했습니다. 이 글에서는 여섯 개의 질문을 따라가겠습니다. 시장의 채워지지 않은 수요는 무엇인가, 왜 GPU를 구하지 못하는가, 네오클라우드는 고객에게 무엇을 주는가, 기술과 사업모델은 어떻게 다른가, 미국과 한국은 어떻게 갈리는가, 그리고 이것은 단기 차익을 노린 과도기 사업인가 아니면 오래갈 사업인가입니다.

인용한 수치와 계약은 모두 공개된 발표와 보도를 기준으로 했고, 빠르게 바뀌거나 출처가 갈리는 항목은 그 점을 분명히 적어 두겠습니다.

채워지지 않는 수요: 시장의 언멧니즈

먼저 무엇이 부족한지부터 봅니다. AI 모델을 만들고 돌리려는 기업이 시장에서 잘 구하지 못하는 것은 크게 다섯 가지입니다.

첫째, 최신 칩에 대한 즉각적 접근입니다. Nvidia의 최신 세대인 블랙웰(Blackwell, B200/GB200)은 사실상 대형 하이퍼스케일러가 1~2년 치를 미리 잡아 둡니다. 스타트업이나 연구기관, 중견기업은 줄을 서도 차례가 잘 오지 않습니다. 둘째, 짧은 기간에 대규모로 몰아 쓰는 수요입니다. 모델을 학습할 때는 수천 장의 GPU를 몇 주 동안 집중해서 써야 하는데, 범용 클라우드의 장기 예약 구조로는 맞추기 어렵습니다. 셋째, 유연한 단기 계약입니다. 시간이나 월 단위로 빌리고 싶은데 기존 대형 클라우드는 1~3년 약정 중심이고 즉시 사용분은 비쌉니다. 넷째, 미국 밖의 주권 인프라 수요입니다. 유럽과 중동, 아시아 정부는 자국 안에 AI 인프라를 두고 싶어 하지만 칩과 부지, 전력이라는 삼중 병목에 막혀 있습니다. 다섯째, 가격의 예측 가능성입니다. 최신 칩의 임대 시장은 아직 형성 중이고, 구형 칩 가격은 변동성이 큽니다.

이 다섯 가지가 채워지지 않는 근본 이유는 단순합니다. 수요가 공급을 구조적으로 앞지르기 때문입니다. 그렇다면 왜 공급이 그렇게 막혀 있을까요.

왜 GPU를 구하지 못하는가

GPU가 부족한 이유는 한 군데가 아니라, 수요에서 결과까지 단계마다 막히기 때문입니다. 위에서 아래로 따라가 보겠습니다.

맨 위는 수요입니다. 마이크로소프트, 구글, 아마존, 메타 네 회사가 2026년 한 해 AI 인프라에 쓸 것으로 보도된 금액만 약 6,500억에서 7,250억 달러에 이릅니다. 사실상 무한에 가까운 수요입니다.

다음은 Nvidia의 물량 할당입니다. 공급이 빠듯할 때 Nvidia는 대규모 선주문을 한 하이퍼스케일러에게 먼저 칩을 배정합니다. 그래서 신규나 소규모 고객은 후순위로 밀립니다. 그 아래에는 제조 병목이 있습니다. 최신 GPU는 TSMC의 CoWoS라는 첨단 패키징 공정을 거쳐야 하는데, 이 생산능력이 2024년 말 월 약 3만 5천 장에서 2025년 말 7만 5천 장 안팎으로 늘었지만 여전히 수요를 못 따라갑니다. 그 안에서도 Nvidia가 절반 이상을 가져갑니다. 한 칸 더 내려가면 메모리입니다. GPU에 들어가는 고대역폭 메모리(HBM)는 SK하이닉스와 삼성, 마이크론 세 곳 모두 2026년 물량까지 사실상 완판 상태이고, 가격도 20~30% 오르는 흐름입니다.

그런데 2025년에서 2026년 사이, 진짜 병목이 칩에서 전력으로 옮겨갔습니다. 칩을 구해도 그것을 돌릴 전기와 데이터센터가 없으면 소용이 없기 때문입니다. 미국에서는 전력망 접속을 기다리는 대기열이 평균 8년에 이르고, 고압 변압기 같은 핵심 설비의 리드타임은 최대 3~5년까지 늘었습니다. 변압기와 차단기, 배터리는 데이터센터 건설비의 10%도 안 되지만, 이것이 없으면 나머지 90%가 무용지물이 됩니다. 실제로 2026년 중반 기준 미국에서 계획된 데이터센터 전력의 상당 부분이 실제로는 지어지지 못하고 있다는 분석도 나옵니다. 그래서 마이크로소프트는 원전을 통째로 빌리고, 구글과 아마존은 소형모듈원전(SMR)과 기존 원전에 장기 전력구매계약을 맺습니다. 전력을 먼저 확보한 쪽이 이긴다는 게임이 된 것입니다.

이 모든 단계를 통과하지 못하면, 대형 사업자가 아닌 곳은 최신 칩은 고사하고 구형인 H100조차 구하기 어려워집니다. 바로 여기가 네오클라우드가 비집고 들어온 자리입니다.

네오클라우드가 고객에게 주는 것

네오클라우드의 핵심 가치는 속도입니다. 하이퍼스케일러가 데이터센터를 새로 지으려면 18개월에서 30개월이 걸리지만, 네오클라우드는 기존 공간을 빌려 랙을 채우는 방식으로 수 주에서 몇 달 안에 대규모 GPU 클러스터를 띄웁니다. 최신 칩을 먼저 확보해 두고 빌려주기 때문에, 직접 줄을 서면 1~2년 걸릴 블랙웰을 고객은 네오클라우드를 통해 더 빨리 만날 수 있습니다. 시간 단위의 유연한 계약과 공개된 시간당 가격도 강점입니다.

이 가치를 실제 숫자로 보여 준 회사가 CoreWeave입니다. 2025년 3월 나스닥에 상장한 이 회사는 2025년 매출이 약 51억 달러로 한 해 만에 168% 늘었고, 2026년 가이던스는 120억에서 130억 달러입니다. 더 인상적인 것은 계약 잔고입니다. 아직 매출로 인식되지 않은 수주 잔고가 약 994억 달러에 이릅니다. OpenAI와 보도 기준 누적 약 224억 달러, 메타와도 대형 계약을 맺었습니다. 다만 매출의 상당 부분(2025년 약 67%로 보도)이 마이크로소프트 한 곳에서 나온다는 집중도는 뒤에서 리스크로 다시 다루겠습니다.

다른 결의 회사들도 있습니다. 얀덱스에서 분사한 Nebius는 2025년 매출 약 5.3억 달러에서 2026년 가이던스 30억에서 34억 달러로 도약을 노리며, 마이크로소프트와 최대 약 194억 달러 계약을 맺고 Nvidia로부터 약 20억 달러의 직접 지분 투자를 받았습니다. 유럽에 본사와 데이터센터를 두어 데이터 주권 수요를 겨냥합니다. Crusoe는 버려지던 가스 같은 잉여 에너지를 활용하는 에너지 우선 전략으로, 텍사스 애빌린의 대형 캠퍼스에서 마이크로소프트에 700메가와트 규모를 임대합니다. Lambda는 마이크로소프트와 수십억 달러 계약을 맺고 2026년 하반기 상장을 준비하는 것으로 보도됩니다. 범용 클라우드인 오라클도 OpenAI의 스타게이트(Stargate) 프로젝트에서 사실상 대규모 AI 전용 인프라 공급자 역할을 하며 네오클라우드적 성격을 띱니다.

요약하면, 네오클라우드가 파는 것은 단순한 GPU가 아니라 빠르게, 유연하게, 그리고 최신 칩으로 접근할 수 있는 권리입니다.

기술과 사업모델은 어떻게 다른가

겉으로는 GPU를 빌려주는 단순한 사업처럼 보이지만, 그 아래 자본 구조가 독특합니다. 네오클라우드는 막대한 GPU를 사들여야 하므로 거대한 자본이 필요한데, 이를 GPU 자체를 담보로 한 차입으로 조달합니다.

구조는 이렇습니다. Nvidia에서 GPU를 대량 구매하고, 마이크로소프트나 OpenAI 같은 고객과 사용 여부와 무관하게 일정액을 내는 장기계약(take-or-pay)을 맺습니다. 그리고 이 GPU와 장기계약을 함께 담보로 사모신용이나 채권 시장에서 돈을 빌립니다. 금리는 보도 기준 대체로 9~15% 수준입니다. CoreWeave는 GPU를 담보로 한 85억 달러 규모 대출에 투자등급(Moody's A3)을 받기도 했습니다. 임대 수익으로 원리금을 갚고, 감가상각 후 남는 것이 이익입니다.

여기서 회계의 핵심 쟁점이 등장합니다. 바로 감가상각 기간입니다. GPU를 몇 년에 걸쳐 비용으로 나눠 인식하느냐에 따라 이익이 크게 달라지는데, CoreWeave는 6년, Nebius는 4년으로 잡습니다. Nvidia가 12개월에서 18개월마다 새 세대 칩을 내놓는 현실을 생각하면, 6년은 공격적이라는 비판이 따라붙습니다. 한 공매도 보고서는 CoreWeave가 Nebius처럼 4년으로 상각하면 영업이익률이 0에 수렴한다고 주장하기도 했습니다.

하이퍼스케일러와 비교하면 차이가 분명합니다. 하이퍼스케일러는 자기자본 중심에 다각화된 자산을 갖고 여러 서비스로 높은 마진을 내지만, 네오클라우드는 GPU 자산과 높은 부채로 한 가지 사업에 집중합니다. 그래서 빠르고 유연하지만, GPU 가치가 떨어지면 곧바로 타격을 받는 구조입니다. Crusoe처럼 전력을 먼저 잡는 에너지 우선 전략, 또는 추론에 최적화한 인프라처럼, 단순 임대를 넘어서는 차별화를 갖춘 곳이 더 단단한 이유가 여기 있습니다.

미국과 한국은 어떻게 다른가

같은 GPU를 다루지만, 미국과 한국은 그 사업이 굴러가는 방식이 근본적으로 다릅니다.

미국은 철저히 민간 주도입니다. GPU를 투자등급 담보로 인정하는 금융 생태계가 성숙해 있어, CoreWeave처럼 GPU를 담보로 수십억 달러를 빌리고 상장으로 자본을 조달합니다. 무엇보다 OpenAI, 마이크로소프트, 메타 같은 초대형 앵커 고객이 있어 장기계약의 토대가 됩니다. 전력도 텍사스나 오하이오 같은 여유 지역에 원전 계약까지 더해 기가와트급 캠퍼스를 짓습니다.

한국은 정부 주도의 소버린 모델에 가깝습니다. 정부가 GPU를 사서 클라우드 사업자에게 운영을 맡기고, 공공 가격으로 산학연에 배분합니다. 규모도 작지 않습니다. 2025년 추경으로 약 1조 4,600억 원을 들여 H200과 B200 총 1만 3천여 장을 확보해 네이버클라우드, NHN클라우드, 카카오가 나눠 운영하고, 2026년 본예산으로 약 2조 원을 더 들여 1만 5천 장을 추가하는 사업에 삼성SDS, 네이버클라우드, 엘리스그룹이 우선협상 대상자로 선정됐습니다. 전라남도 해남에는 2조 5천억 원 규모의 국가 AI 컴퓨팅센터가 2030년 5만 장을 목표로 추진됩니다. Nvidia는 2025년 말 한국 정부와 기업을 묶어 총 26만 장 규모의 GPU 배치 계획을 발표하기도 했습니다.

차이를 만드는 세 가지가 있습니다. 첫째, 자금입니다. 미국은 GPU 담보 부채 생태계가 있지만 한국은 정부가 사실상 대주 역할을 하고, 민간 스타트업은 수백억 원 규모 투자에 의존합니다. 둘째, 수요처입니다. 미국은 초대형 앵커 고객이 있지만 한국은 그만한 외부 수요처가 없어 정부가 최대 고객입니다. 셋째, 전력입니다. 한국은 데이터센터의 70% 이상이 수도권에 몰려 있는데 수도권은 전력 자체 생산이 수요의 일부에 그쳐, 비수도권으로 분산할 수밖에 없습니다. 그래서 한국에서는 VESSL AI나 Mondrian AI 같은 순수 네오클라우드형 스타트업이 등장하고 있지만, 미국식 독립 대형 사업자보다는 정부와 클라우드 생태계 안의 전문 운영자, 그리고 소버린과 한국어 모델, 제조 AI라는 틈새에서 기회를 찾는 형태가 더 현실적으로 보입니다.

과도기적 차익거래인가, 장기 생존 사업인가

이제 가장 중요한 질문입니다. 네오클라우드는 일시적 공급 부족을 노린 금융 공학 게임일까요, 아니면 오래갈 사업일까요. 양쪽 논리를 다 봐야 합니다.

약세론의 핵심은 네 가지입니다. 첫째는 감가상각입니다. 칩이 12개월에서 18개월마다 바뀌는데 6년에 걸쳐 상각하면, 몇 년 뒤 구형 GPU의 잔존가치가 장부보다 훨씬 낮을 수 있습니다. 둘째는 고객 집중입니다. CoreWeave는 매출의 60% 이상이 마이크로소프트에서 나오는데, 이 고객이 자체 인프라를 늘리거나 계약을 갱신하지 않으면 타격이 큽니다. 셋째는 순환 융자 논란입니다. Nvidia가 고객사에 투자하고 그 고객사가 Nvidia 칩을 사는 구조가 수요를 인위적으로 부풀린다는 비판인데, Nvidia는 이를 부인하고 일부 유명 공매도자들은 의심합니다. 넷째는 버블 우려입니다. 마이클 버리는 1999년 통신사들이 광섬유에 과잉투자했다가 무너진 것에 빗대 AI 인프라도 같은 길을 갈 수 있다고 봤습니다.

다만 약세론을 인용할 때는 단서가 필요합니다. 한 공매도 보고서는 2025년 9월 CoreWeave의 적정가를 주당 6~13달러로 제시했지만, 이후 주가는 100달러를 넘겼습니다. 주가 방향에 대한 예측은 빗나간 셈입니다. 그래도 감가상각과 집중도, 부채라는 리스크 자체는 여전히 유효한 점검 틀로 남습니다. 예측이 틀렸다고 리스크가 사라지는 것은 아니기 때문입니다.

강세론의 핵심은 수요의 구조적 성장입니다. 학습 중심에서 추론 중심으로 무게가 옮겨가는데, 에이전트형 AI는 한 번 답하는 데 드는 연산이 기존 챗봇보다 훨씬 큽니다. 추론은 늘 켜져 있어야 하므로 전용 GPU 수요가 꾸준합니다. 여기에 전력과 입지를 먼저 잡은 곳은 진입장벽을 갖고, 데이터 주권을 원하는 각국 정부의 수요도 더해집니다. 994억 달러 같은 거대한 계약 잔고는 수익의 가시성을 줍니다.

이 두 논리 사이에서 GPU 임대가의 궤적은 흥미로운 단서를 줍니다.

이 V자 곡선이 말해 주는 것은 두 가지입니다. 한편으로 가격이 한때 64%까지 빠진 것은, 공급자가 우르르 들어오면 마진이 무너질 수 있다는 약세론의 경고가 현실이라는 뜻입니다. 다른 한편으로 가격이 다시 올라온 것은, 추론 수요가 실재하고 공급이 여전히 빠듯하다는 강세론의 근거이기도 합니다. 즉 수요 자체는 진짜지만, 그 위에서 돈을 버는 일은 누가 어떻게 하느냐에 따라 갈립니다.

그래서 제 잠정적인 판단은 둘 중 하나가 아니라 분화입니다. 전력과 장기계약을 잠그고, 단순 임대를 넘어 소프트웨어와 추론 최적화로 올라가며, 고객을 다변화한 소수는 오래갈 수 있습니다. 반대로 최신 칩을 빌려와 되파는 단순 차익에 기대고, 소수 고객에 매출이 묶여 있으며, 공격적 감가상각으로 이익을 만들어 온 다수는 수요가 잠깐만 꺼져도 취약합니다. 과도기냐 장기냐는 시장 전체의 문제가 아니라, 개별 회사가 그 과도기 동안 무엇을 쌓았느냐의 문제에 가깝습니다.

투자자의 눈으로, 그리고 맺으며

마지막으로 이 모든 것을 투자자의 시선으로 좁혀 보겠습니다. 한 가지 분명한 것은, AI 가치사슬에서 가장 큰 자본이 지금 이 컴퓨트와 전력 층으로 흘러들고 있다는 사실입니다. 다만 자본이 몰린다고 모두가 이기는 것은 아닙니다.

좋은 네오클라우드를 가르는 질문은 단순합니다. 전력과 입지를 확보했는가, 장기계약으로 수요를 잠갔는가, 고객이 한 곳에 묶여 있지 않은가, 감가상각을 보수적으로 잡고 있는가, 그리고 단순 임대를 넘어 추론과 소프트웨어로 올라갈 길이 있는가입니다. 반대로 최신 칩 재판매 차익과 공격적 회계, 소수 고객 의존에만 기댄 곳은 경계할 신호입니다.

한국 맥락에서는 조금 다르게 봐야 합니다. 미국식 독립 대형 네오클라우드가 한국에서 그대로 복제되기는 어렵습니다. GPU 담보 부채 생태계도, 초대형 앵커 고객도 없기 때문입니다. 대신 한국에서 구조적으로 커지는 자리는 정부와 클라우드 생태계 안의 전문 운영자, 전력과 냉각 같은 물리 인프라, 데이터 주권이 필요한 공공·금융·의료 수요, 그리고 한국어 모델과 제조 AI라는 틈새입니다. AI 수혜라는 한마디 대신, 그 회사가 이 빡빡한 공급 사슬에서 정확히 어느 병목을 풀고 있는지를 보는 편이 낫습니다.

정리하면, 네오클라우드는 모두가 AI를 외치는데 정작 GPU는 부족한 시대가 낳은 자식입니다. 그 부족이 진짜이고 당분간 이어질 것이기에 이 사업은 한동안 자랄 것입니다. 다만 그 안에서 오래 살아남는 회사는, 단순히 칩을 빌려준 회사가 아니라 전력과 계약과 고객과 소프트웨어를 함께 쌓은 회사일 것입니다. 빙산의 일각 아래에서, 진짜 승부는 이미 시작됐습니다.