← Back to list2026-08-29

가장 빠른 답변이 아니라, 가장 싼 완주

AI 에이전트추론 인프라AI 반도체데이터센터AI 투자

추론 인프라의 경쟁축이 하나 더 생겼습니다. 지금까지는 같은 질문에 누가 더 빨리 답하느냐였고, 앞으로는 같은 일을 누가 더 싸게 끝까지 마치느냐입니다. 세일 리서치(Sail Research)의 공동창업자 닐 모바(Neil Movva)가 팟캐스트 인터뷰에서 펼친 논지가 그것이고, 이 회사는 그 논지 하나로 8,000만 달러를 받았습니다.

이 글은 두 종류의 재료를 섞어 씁니다. 하나는 인터뷰 발언이고, 다른 하나는 회사 공식 발표와 언론 보도입니다. 인터뷰 발언은 이해당사자의 주장이므로 그대로 사실로 옮기지 않고 발언 기준임을 밝힙니다. 회사가 낸 성능·원가 수치도 독립 검증 전입니다. 종목 투자판단은 다루지 않습니다.

회사가 공개한 사실부터 정리합니다

세일 리서치는 2026년 6월 25일 스텔스를 벗으면서 시드와 시리즈 A를 합해 8,000만 달러를 조달했다고 발표했습니다. 기업가치는 4억 5,000만 달러, 시리즈 A는 클라이너 퍼킨스가, 시드는 세쿼이아가 이끌었습니다. 레드포인트, 시어리 벤처스, 바인 벤처스, CRV, A*, 앱스트랙트 벤처스가 함께 들어갔고, 엔젤로는 알파벳 이사회 의장 존 헤네시, 인텔 최고경영자 립부 탄, 투게더 AI 수석과학자 트라이 다오가 이름을 올렸습니다. 칩 설계와 시스템 쪽 인물이 개인 자격으로 들어갔다는 점은 이 회사의 성격을 그대로 보여줍니다.

제품은 둘입니다. 처리량에 맞춰 처음부터 다시 쓴 추론 스택, 그리고 몇 시간에서 며칠씩 도는 에이전트 전용 실행환경입니다. 회사는 후자를 세일박스라 부르고, 에이전트가 실제로 일한 시간에 대해서만 과금한다고 밝혔습니다.

회사가 낸 수치는 세 가지입니다. 심층 조사 평가인 BrowseComp-Plus에서 정확도 90.72퍼센트를 기록하면서 토큰당 원가는 주요 대안 대비 최대 10분의 1이었다는 것, 고객이 체감하는 원가 개선폭이 통상 3배에서 10배라는 것, 3월 서비스 개시 이후 주당 수조 개 토큰을 처리하고 있다는 것입니다. 전부 회사 발표이자 회사 추정이며, 독립 검증 전입니다.

사람이 기다리지 않으면 GPU는 다른 기계가 됩니다

기술적 출발점은 단순합니다. GPU는 원래 처리량 기계입니다. 일감을 잔뜩 몰아주고 연산 유닛을 꽉 채워 돌릴 때 가장 행복한 하드웨어입니다. 그런데 지난 몇 년간 인공지능의 주된 사용 형태는 사람이 채팅창 앞에서 기다리는 대화형이었고, 그 세계에서는 키보드 앞의 사람에게 최대한 빨리 첫 글자를 뱉는 것이 미덕이었습니다. 업계 전체가 지연 최소화 쪽으로 끌려갔고, 모바는 그 방향을 결정한 고객이 사실상 커서였다고 말합니다.

지연과 처리량이 왜 동시에 좋아질 수 없는지는 배치 처리에서 나옵니다. 여러 사용자의 요청을 한 묶음으로 만들어 GPU에 태우면 유닛은 꽉 차지만, 묶음 전체가 함께 움직이므로 개별 요청이 GPU 위에서 보내는 시간은 길어집니다. 모바는 이걸 버스와 승용차에 빗댑니다. 승용차는 원하는 길로 곧장 가고, 버스는 모두를 태우느라 서고 돌아갑니다. 둘 다 좋은 탈것이지만 같은 차량일 수는 없습니다.

엔비디아의 NV링크도 이 구도 안에서 위치가 정해집니다. 큰 행렬 곱을 여덟 장의 GPU에 쪼개 나눠 계산하고 결과를 합치면 최소 지연은 줄어듭니다. 다만 여덟 배 하드웨어를 써서 네댓 배 속도를 얻는 준선형 확장이고, 통신 부담과 작은 타일의 효율 저하가 그 차이를 먹습니다. 모바의 결론은 NV링크가 저지연 추론에는 사실상 필수지만 자신은 저지연을 팔지 않으므로 다른 병렬화 방식을 고르겠다는 것입니다. 전문가 병렬이나 파이프라인 병렬을 쓰면 통신 지연을 겹쳐 숨길 여지가 생기고, 그렇게 되면 상호연결이 약한 칩도 자리를 얻습니다.

배경 실행에는 수요 상한이 없습니다

모바가 이 시장을 좋아하는 이유는 상한이 없기 때문입니다. 사람이 개입하는 워크로드의 토큰 소비량은 사람의 주의력에 묶입니다. 코딩 도구에 지금보다 열 배 토큰을 더 쓰라고 해도 이미 하루 종일 붙어 있는 사용자는 더 쓸 방법이 없습니다. 반면 밤새 도는 배경 작업은 사람의 시간과 무관하게 토큰을 태웁니다. 그는 올해 말 배경과 실시간 비중이 반반, 장기적으로는 9대 1로 배경 쪽에 기울 것이라 말합니다. 회사 이해가 걸린 전망이므로 발언 기준으로 읽어야 합니다.

방향 자체를 뒷받침하는 외부 근거는 있습니다. 포춘 보도에 따르면 에이전트형 작업 흐름은 단순 채팅 대비 토큰을 50배에서 500배까지 소모하고, 토큰당 단가가 떨어지는 동안에도 기업의 인공지능 청구액은 세 배로 늘었습니다. 골드만삭스는 2030년까지 토큰 소비가 24배 늘어날 것으로 봤습니다. 단가 하락과 총지출 증가가 함께 일어나는 국면이라는 뜻입니다.

실제로 배경 실행이 유리한 작업으로 그는 심층 조사와 보안 점검을 꼽습니다. 출처 100개가 아니라 1만 개 이상을 훑어 확정적인 답을 만드는 일, 그리고 이미 작성된 코드를 온갖 방식으로 깨뜨려 보는 일입니다. 보안 쪽에서 나온 표현이 특히 선명합니다. 소프트웨어가 얼마나 안전한지는 그것을 깨뜨리려고 추론 API에 얼마를 썼는지로 판정된다는 것입니다. 모델의 능력 경계가 고르지 않아 작은 모델만 찾아내는 결함과 큰 모델만 찾아내는 결함이 따로 있으므로, 여러 모델을 많이 돌리는 쪽이 이깁니다. 이런 구조에서는 토큰 원가가 곧 제품 품질의 상한이 됩니다.

나쁜 칩은 없고 나쁜 가격만 있습니다

여기서부터가 이 회사의 전략입니다. 모바는 자신들의 방식을 스캐빈저, 즉 남이 거들떠보지 않는 것을 주워 모으는 전략이라 부릅니다. 앤트로픽이나 오픈AI와 같은 물건을 두고 경매에 참여하면 이길 수 없고 이기고 싶지도 않으니, 그들이 값어치를 못 읽는 공급만 골라 모으겠다는 것입니다. 집중된 대규모 자원은 영영 못 가질 테니 흩어진 총량을 모아 공장을 짓겠다는 표현을 씁니다. 대형 일관제철소가 아니라 소형 전기로를 여러 개 세우겠다는 비유입니다.

읽는 법: 왼쪽 두 열은 저지연 대화형을 전제로 굳어진 표준이고, 오른쪽 열은 배경 에이전트를 전제로 했을 때 대신 살 수 있게 되는 자원입니다. 마지막 줄이 붉은 이유는 그 포기가 나머지 세 줄을 가능하게 만드는 조건이기 때문입니다. 닐 모바 인터뷰 발언 기준.

칩에 대한 그의 표현이 이 전략을 압축합니다. 나쁜 칩은 없고 나쁜 가격만 있다는 것입니다. 그가 우선 보는 지표는 칩의 종합 성능이 아니라 연산량 대비 가격, 그리고 소유하고 돌리는 데 드는 시간당 비용입니다. 상호연결이 약해도 병렬화 방식을 바꾸면 자리가 생기므로, 남들이 프로그래밍하기 어렵다고 기피하는 칩일수록 그에게는 초과수익 영역입니다. AMD에 대해 그는 남들이 저평가해 주는 편이 자기 귀에는 음악처럼 들린다고 말하면서도, 메타와 오픈AI의 대량 구매로 그 여지가 이미 줄었다고 덧붙입니다. 신생 칩 회사들에 대한 그의 판단 기준은 성능이 아니라 물량입니다. TSMC 웨이퍼 할당을 실제로 받아낼 수 있느냐가 관건이라는 것입니다.

가동률 95퍼센트짜리 데이터센터의 첫 번째 구매자

가장 논쟁적인 대목은 데이터센터입니다. 미국에서 기가와트급은 이제 사실상 불가능하고 100메가와트도 매우 어렵고 10메가와트가 가능성의 경계이며 1메가와트는 흔하다는 것이 그의 현장 감각입니다. 학습용 클러스터를 짓는 쪽에서는 흩어진 1메가와트가 쓸모없지만, 배경 추론은 그 조각들을 그대로 쓸 수 있습니다.

대가는 명확합니다. 예비 발전기도 이중화 회선도 가동률 약정도 없앤다면 가동률이 95퍼센트까지 내려갈 수 있고, 그건 일반적인 구매자에게는 치명적입니다. 그는 자신이 그 첫 번째 구매자가 되겠다고 말합니다. 근거는 두 가지입니다. 데이터센터 간 상관이 없는 단발 장애라면 통제 평면이 작업을 다른 곳으로 옮기면 되고, 몇 시간짜리 에이전트 작업의 한 턴이 몇 분 늦어지는 것은 고객이 체감하지 못한다는 것입니다. 그래서 고객에게 파는 약속도 달라집니다. 평균 처리량은 경쟁력 있게 주되 99번째 백분위 지연은 통제하지 않겠다고 명시하고, 그 대가로 원가를 준다는 구조입니다.

전력까지 밀고 가면 가동률 80퍼센트도 가격만 맞으면 받겠다는 말이 나옵니다. 태양광과 풍력의 간헐성은 데이터센터 업계가 오랫동안 부적합 판정을 내려온 특성인데, 그는 날씨는 예측 가능하므로 꺼질 시점을 모델링해 워크로드를 미리 옮기면 된다고 봅니다. 감내하기 성가시다는 바로 그 이유 때문에 아무도 손대지 않은 전력에 접근할 수 있다는 논리입니다.

이 대목은 매력적인 만큼 검증 대상이기도 합니다. 흩어진 소형 시설 수백 곳을 하나의 함대처럼 운영하려면 통제 평면과 운영 인력이 규모의 불경제를 만들 수 있고, 저가 전력 계약과 소형 시설 확보가 실제로 그 규모까지 쌓이는지는 아직 공개된 실적으로 확인되지 않았습니다.

병목은 연산이 아니라 대화 기록입니다

낭비가 어디에 있느냐는 질문에 그는 연산 쪽은 이미 꽤 효율적이라고 답합니다. 최신 전문가 혼합 모델은 활성화 비중이 10퍼센트 미만이고 프런티어급은 1퍼센트에 가까우니 이미 충분히 희소하다는 것입니다. 문제는 주의 연산과 그것이 쓰는 메모리, 구체적으로는 키값 캐시입니다.

키값 캐시는 대화가 길어질수록 쌓이는 기록입니다. 모델 가중치가 결정화된 지식이라면 키값 캐시는 지금 이 대화의 동적 지식이고, 대화가 길어지면 가중치보다 커지는 일도 흔합니다. 그의 진단은 이 캐시가 지금 거의 압축되지 않은 상태라는 것입니다. 토큰 하나당 수 킬로바이트를 저장하는데 담긴 정보량에 비해 한두 자릿수 과합니다. 딥시크가 매년 자릿수 단위 개선을 발표하고 있다는 사실 자체가 남은 여지의 증거라고 봅니다.

읽는 법: 세 칸은 같은 메모리가 아니라 아예 다른 제조 공정입니다. 왼쪽은 논리 다이 위에 새기고, 가운데는 별도 회사가 만들어 쌓아 붙이며, 오른쪽은 값이 싼 대신 느립니다. 수치는 모두 인터뷰 발언 기준이며 특정 제품의 공식 사양과 다를 수 있습니다.

세레브라스와 그록에 대한 그의 평가도 여기서 나옵니다. 두 회사는 온칩 SRAM을 극대화해 가중치를 초고속으로 읽는 데 성공했지만, 사용량에 따라 계속 불어나는 키값 캐시는 감당하기 어렵습니다. 그래서 그의 예측은 대체가 아니라 결합입니다. 트랜스포머를 긴 문맥으로 밀면 지식이 담긴 다층 퍼셉트론 층은 연산 병목이 되고 주의 층은 메모리 병목이 되는데, 하나의 칩이 둘 다 잘하기는 어려우니 주의 층은 GPU에, 퍼셉트론 층은 SRAM 특화 칩에 나누어 얹는 형태로 갈 것이라고 봅니다. 그는 트랜스포머의 원죄가 메모리에 묶인 층과 연산에 묶인 층을 나란히 붙여 놓은 것이라고 표현합니다.

그리고 그가 직접 밝힌 최우선 공략점은 HBM 부족을 우회하는 것입니다. 키값 캐시를 플래시로 훨씬 과감하게 내려보내려면 모델 구조가 무엇을 바꿔줘야 하는지, 그 문제를 계속 화이트보드에 그린다고 말합니다. 새 칩 회사를 만들겠다는 사람에게 그가 요구하는 답도 같은 자리에 있습니다. 웨이퍼 생산능력, HBM 생산능력, 첨단 패키징, 전력이라는 네 개 병목에 대해 각각 어떻게 우회할지 말해 보라는 것입니다.

이건 엔비디아 붕괴론이 아닙니다

이 논지가 반도체 하락 논거로 읽히기 쉬운데, 정작 본인은 단기적으로 엔비디아에 강세 의견입니다. 엔비디아는 언제나 자기를 재발명해 왔으므로 반대편에 서지 말라고 말합니다. 최저 지연을 원해도 지금은 엔비디아 랙을 써야 하고, 최고 처리량을 원해도 당장은 마찬가지라고 인정합니다. 랙 하나를 통째로 한 대의 컴퓨터처럼 프로그래밍하는 경쟁이 이제 막 시작됐고, 그 형태가 효율과 속도 양쪽의 미래라는 것이 그의 판단입니다.

엔비디아가 직접 토큰을 팔지 않는 이유에 대한 해석도 흥미롭습니다. 젠슨 황은 고객과 경쟁하지 않으며 친구들을 억만장자로 만드는 데 능하다는 것입니다. 여러 신생 클라우드와 추론 사업자가 서로 경쟁하며 수요를 만들어 주는 편이, 그중 하나가 이탈해도 대체할 사람이 셋 더 있는 편이 낫다는 계산입니다. 실제로 엔비디아는 최신 칩을 가장 돈 많은 곳에 몰아주지 않고 전략적으로 배분하는데, 연산이 곧 힘이라는 인식이 그 배분에 반영돼 있다고 그는 봅니다.

가장 논쟁적인 발언은 공정 세대별 전력당 성능에 대한 것입니다. 호퍼에서 블랙웰, 루빈으로 넘어가는 동안 같은 조건의 곱셈 연산 기준 전력당 성능은 극적으로 개선되지 않았고, TSMC 5나노에서 2나노까지의 변화도 마찬가지라는 주장입니다. 그래서 대만 공급이 끊기는 시나리오도 통념만큼 파국적이지 않고, 서방의 대안 공정과의 격차는 최악의 경우 두 배 수준이라는 것이 그의 반대 견해입니다. 이 주장은 검증 가능한 형태로 제시되지 않았고 이해상충 소지도 있으므로, 공식 사양과 독립 벤치마크로 따로 확인하기 전에는 인용하지 않는 편이 안전합니다.

시스코 때와 다른 점은 토큰을 비축하지 않는다는 것입니다

반도체가 S&P 500 시가총액의 20퍼센트 안팎을 차지하는 현재 국면이 2000년의 반복이냐는 질문에, 그는 자신을 역사의 학생이 아니라 구성원이라 소개하며 답합니다. 어머니가 인텔에서 일하던 시절 시스코가 세계 최대 기업이던 때를 기억한다는 것입니다.

그가 짚는 차이는 하나입니다. 당시 통신장비 투자는 오지 않은 수요를 예상한 투기적 지출이었지만, 토큰 소비는 즉시 쓰이는 지출이라는 것입니다. 토큰은 비축되지 않고 사자마자 소모됩니다. 2023년과 2024년의 호퍼 품귀도 성격이 달랐습니다. 그때는 학습 중심이었고 학습은 본질적으로 투기적입니다. 지금은 모든 기업이 코딩 도구 지출에 상한을 걸고 있을 만큼 추론 수요가 현실적이며, 추론 지출은 단조 증가할 것이라는 게 그의 결론입니다.

논리 자체는 성립합니다. 다만 즉시 소모된다는 사실이 그 소모가 값어치 있었음을 보증하지는 않습니다. 사용량이 성과로 이어지는지, 그리고 지출 상한이 걸린 계정이 늘어나는 현상이 수요 강도의 증거인지 억제의 증거인지는 별개로 확인해야 합니다.

남은 검증 항목

투자 관점에서 이 논지를 그대로 쓰지 않고 확인해야 할 것들을 남겨 둡니다.

원가 우위의 출처: 3배에서 10배라는 개선폭이 소프트웨어 최적화에서 온 것인지, 저가 칩과 저가 전력 조달에서 온 것인지, 아니면 초기 시장 확보를 위한 가격 정책인지가 구분되지 않았습니다. 앞의 둘은 지속 가능하지만 마지막은 아닙니다.
벤치마크의 조건: BrowseComp-Plus 90.72퍼센트라는 수치는 회사 발표이고, 비교 대상과 하네스 조건이 공개 검증되지 않았습니다.
장시간 실행 능력의 실측: 몇 시간에서 몇 주씩 도는 에이전트라는 전제 자체가 아직 측정 한계에 걸려 있습니다. 장기 과제의 성공률 측정은 표본 수가 적고 오차가 크다는 점이 측정 기관 스스로에 의해 공개돼 있습니다.
프런티어 랩의 수직화: 가장 큰 위협은 경쟁 추론 사업자가 아니라 앤트로픽과 오픈AI와 구글이 자체 추론 인프라를 갖추면서 이 계층 자체를 흡수하는 경우입니다. 포춘도 같은 위험을 지적했습니다.
한국 관점의 읽을거리: 이 논지가 맞다면 HBM 부족은 완화되는 게 아니라 우회 시도를 유발하는 방향으로 작동합니다. 키값 캐시를 플래시로 내리려는 압력, 저가 전력과 소형 시설을 쓰는 분산 추론, 상호연결이 약한 저가 칩의 재평가는 메모리와 패키징 수요 구조에 서로 다른 방향으로 작용합니다. 어느 쪽이 우세할지는 실제 배포 사례가 쌓여야 판단할 수 있습니다.

맺으며

배경 에이전트가 늘어난다는 전제가 유지되는 한, 추론 인프라의 경쟁은 초당 몇 토큰을 뱉느냐가 아니라 하나의 과업을 끝까지 마치는 데 총얼마가 드느냐로 옮겨 갑니다. 세일 리서치가 그 자리를 차지할지는 아직 모르지만, 질문이 바뀌었다는 사실 자체는 이미 여러 곳에서 확인됩니다.

출처 노트

인터뷰 원본: Invest Like the Best, 닐 모바 편. 이 글의 발언 인용은 모두 이 인터뷰 기준이며 화자는 이해당사자입니다.
조달 사실과 제품 구성, 성능 수치: 세일 리서치 보도자료(2026년 6월 25일). 성능과 원가 수치는 회사 발표이자 독립 검증 전입니다.
토큰 소비 배수와 기업 청구액, 프런티어 랩 위험 지적: 포춘 2026년 6월 25일 보도. 2030년 24배 전망은 골드만삭스 추정을 포춘이 인용한 것입니다.
공정 세대별 전력당 성능과 지정학 관련 발언은 검증 가능한 형태로 제시되지 않았으므로 발언 기준으로만 옮겼습니다.