AI 성능 뒤에 있는 거대한 데이터 블랙홀

AI가 똑똑해지는 방식은 우리가 생각하는 학습과 다를 수 있습니다

Dwarkesh Patel 채널의 영상 The data black hole at the center of AI는 AI 발전을 보는 시선을 조금 바꿔 보자고 제안합니다. 영상의 핵심은 단순합니다. 최근 AI가 좋아진 이유를 ‘모델이 인간처럼 더 효율적으로 배우게 됐다’고만 보면 중요한 부분을 놓칩니다. 공개된 트랜스크립트 기준으로, 화자는 AI 성능 향상의 중심에 엄청난 데이터와 계산 자원, 그리고 그 데이터를 만들고 검증하는 반복 구조가 있다고 봅니다.

영상은 2026년 6월 19일 올라온 11분 57초짜리 에세이 형식의 영상입니다. 제목의 ‘data black hole’이라는 표현이 인상적입니다. 우리가 겉으로 보는 AI는 번역도 하고, 코딩도 하고, 수학 문제도 풀고, 여러 업무를 처리하는 능력의 별자리처럼 보입니다. 그런데 그 별자리 중심에는 눈에 직접 보이지 않는 거대한 데이터 덩어리가 있다는 비유입니다. 저는 이 비유가 현재 AI 산업을 이해하는 데 꽤 유용하다고 봅니다. 모델의 답변 품질은 화면에 드러나지만, 그 품질을 만든 데이터 수집, 정제, 라벨링, 검증, 평가 환경은 대개 뒤에 숨어 있기 때문입니다.

이 영상이 특히 흥미로운 대목은 ‘지능’을 능력의 화려함이 아니라 샘플 효율성(sample efficiency, 적은 예시로 얼마나 빨리 배우는가)이라는 관점에서 다시 정의한다는 점입니다. 트랜스크립트에는 ‘one definition of intelligence is sample efficiency’라는 문장이 나옵니다. 어떤 존재가 정말 똑똑한지 보려면, 같은 일을 배우는 데 얼마나 적은 경험만으로 충분한지를 보자는 뜻입니다.

AI는 인간처럼 배우기보다 거대한 분포를 먹고 능력을 보이는 쪽에 가깝습니다

영상에서 가장 중요한 주장은 이것입니다. 모델을 볼 때 ‘인간이 여러 기술을 배워서 능숙해진 것’처럼 생각하면 안 된다는 것입니다. 트랜스크립트에는 ‘The correct way to think about these models is not like a human who has learned all these different skills that you see the models displaying’라는 취지의 발언이 나옵니다.

조금 풀어 말하면 이렇습니다. 어떤 사람이 엑셀, 글쓰기, 법률 문서 검토, 코딩, 수학을 배웠다면 우리는 그 사람이 여러 기술을 이해하고 일반화했다고 생각합니다. 하지만 AI 모델의 경우, 공개된 자료 기준으로 화자는 조금 다른 그림을 제시합니다. 모델은 각 분야의 많은 예시, 풀이, 문서, 대화, 코드, 피드백을 흡수하고, 그 데이터 분포 안에서 능숙해진 것에 가깝습니다.

여기서 ‘분포(distribution, 데이터가 놓여 있는 범위와 패턴)’라는 개념이 중요합니다. 예를 들어 요리책을 많이 읽은 사람은 레시피 설명을 잘할 수 있습니다. 하지만 실제 주방에서 불 조절, 재료 상태, 손님 취향, 예상치 못한 실수까지 다루려면 다른 종류의 경험이 필요합니다. AI도 비슷합니다. 인터넷 텍스트, 코드 저장소, 문제 풀이, 인간 피드백 같은 데이터가 풍부한 영역에서는 빠르게 좋아질 수 있지만, 그 데이터가 부족하거나 상황이 계속 바뀌는 영역에서는 더 많은 시행착오와 검증 환경이 필요할 가능성이 큽니다.

영상은 지난 몇 년간의 성능 개선을 ‘샘플 효율성 자체가 크게 좋아졌다’고 보기보다, 더 넓은 데이터 분포와 더 큰 계산 자원을 투입한 결과로 보는 쪽에 무게를 둡니다. 투자자에게 꽤 중요한 관찰입니다. 어떤 AI 회사가 좋은 결과를 냈을 때, 그 회사가 정말 새로운 학습 효율을 만들었는지, 아니면 좋은 데이터와 반복 검증 체계를 확보했는지를 분리해서 봐야 하기 때문입니다.

강화학습은 마법의 학습법이라기보다 좋은 데이터를 찾는 기계에 가깝습니다

영상은 강화학습(RL, reinforcement learning, 보상 신호를 기준으로 시행착오를 반복하는 학습 방식)을 핵심 메커니즘 중 하나로 다룹니다. 다만 여기서의 강화학습은 막연한 ‘스스로 똑똑해지는 과정’이 아니라, 좋은 합성 데이터(synthetic data, 사람이 직접 만든 것이 아니라 모델이나 시스템이 생성한 데이터)를 만들고 검증하는 루프로 설명됩니다.

트랜스크립트 요약에 따르면 이 루프에는 몇 가지 요소가 있습니다. 모델이 답이나 풀이를 생성합니다. 검증기(verifier, 결과가 맞는지 확인하는 장치)나 루브릭(rubric, 좋은 답을 판별하는 기준표)이 그것을 평가합니다. 때로는 LLM 판단자, 그러니까 다른 언어모델이 품질을 판단하기도 합니다. 이 과정을 반복하면서 모델은 더 나은 풀이, 더 나은 답변, 더 나은 행동 궤적을 찾아갑니다.

초심자에게는 이것을 ‘많은 지원자를 면접하는 채용 과정’에 비유할 수 있습니다. 지원자가 많아도 평가 기준이 흐리면 좋은 사람을 뽑기 어렵습니다. 반대로 평가 기준이 분명하고, 면접관이 충분히 전문적이며, 과제 결과를 정확히 볼 수 있다면 좋은 지원자를 골라낼 확률이 높아집니다. AI에서도 합성 데이터를 많이 만드는 것만으로는 부족합니다. 무엇이 좋은 데이터인지 판단하는 기준과 검증 역량이 함께 있어야 합니다.

이 대목은 데이터 인프라 기업을 볼 때 특히 중요합니다. 앞으로의 병목은 단순히 ‘데이터가 있느냐’가 아니라, 검증 가능한 좋은 데이터를 반복적으로 만들 수 있느냐에 있을 수 있습니다. 특히 수학, 코딩, 법률, 회계, 의료, 로봇 조작처럼 정답이나 품질 기준이 까다로운 영역에서는 루브릭과 전문가 판단이 더 중요해질 가능성이 높습니다.

인간 전문가의 궤적 데이터가 병목이 될 수 있습니다

영상은 모델이 각 분야에서 유능해지려면 해당 분야 인간 전문가의 궤적(trajectory, 문제를 보고 판단하고 행동하는 과정)이 대규모로 필요하다고 설명합니다. 여기서 중요한 것은 최종 답만이 아닙니다. 전문가가 어떤 중간 판단을 했는지, 어떤 선택지를 버렸는지, 어떤 기준으로 좋은 답과 나쁜 답을 구분했는지가 포함됩니다.

예를 들어 투자 메모를 쓴다고 해보겠습니다. 최종 결론만 보면 ‘투자 검토’ 또는 ‘보류’일 수 있습니다. 하지만 실제 전문성은 그 사이에 있습니다. 어떤 숫자를 신뢰했는지, 어떤 고객 증언을 약하게 봤는지, 어떤 시장 가정을 의심했는지, 어느 지점에서 추가 실사를 요청했는지가 중요합니다. 모델이 이런 일을 잘하려면 단순한 결과 라벨보다 훨씬 풍부한 판단 과정 데이터가 필요합니다.

트랜스크립트 요약에 따르면 각 기술에는 수백 명 수준의 전문가가 예시, 루브릭, 사고과정 설명을 만드는 구조가 언급됩니다. 공개 자료 기준으로 이 부분은 AI 산업의 노동 집약적 기반을 보여줍니다. 겉으로는 자동화 산업처럼 보이지만, 안쪽에는 여전히 많은 인간 전문가의 설명, 검증, 기준 설정이 들어갑니다.

영상은 인간 전문 데이터, 라벨링, RL 환경 생태계가 이미 큰 수익성을 지닌 핵심 인프라가 되고 있으며, 앞으로 더 커질 수 있다는 취지의 언급도 담고 있습니다. 다만 여기서 정확한 시장 규모를 단정하기보다는, 영상이 말하는 방향성 자체가 중요해 보입니다. 모델 경쟁이 심해질수록 ‘더 좋은 모델’만큼이나 ‘더 좋은 학습 환경’과 ‘더 좋은 검증 데이터’를 가진 쪽이 유리해질 수 있습니다.

인간과 AI의 샘플 효율성 격차는 생각보다 큽니다

이 영상의 가장 강한 숫자 비교는 인간과 AI가 학습에 쓰는 데이터량의 차이입니다. 트랜스크립트 요약에 따르면 frontier 모델(최전선 대형 모델)의 학습 토큰(token, 모델이 읽는 텍스트 조각)은 수십 조에서 수백 조 수준으로 언급됩니다. 반면 성인 인간은 시간당 2,000단어를 본다는 가정 아래 약 200M 토큰을 접한다는 비교가 나옵니다. 영상은 이 차이를 약 백만 배 수준으로 설명합니다.

이 비교는 완벽한 동등 비교라기보다 직관을 주기 위한 장치에 가깝다고 봅니다. 인간은 텍스트만으로 배우지 않습니다. 보고, 듣고, 만지고, 시행착오를 겪고, 사회적 피드백을 받습니다. AI 모델의 토큰과 인간 경험을 같은 단위로 놓는 데는 한계가 있습니다. 그래도 이 비교는 중요한 질문을 남깁니다. 왜 AI는 이렇게 많은 데이터를 필요로 하는가.

영상은 로봇 조종, 자율주행, 운전 사례로도 이 격차를 설명합니다. 인간은 상대적으로 적은 경험으로 운전이나 조작을 배울 수 있지만, AI는 개방형이고 복잡한 작업에서 훨씬 많은 데이터가 필요하다는 취지입니다. 특히 현실 세계에서는 작은 예외가 많습니다. 맑은 날의 도로, 비 오는 밤의 도로, 공사 구간, 갑자기 튀어나오는 사람, 애매한 표지판처럼 상황이 계속 달라집니다. 인간은 상식과 신체 경험을 동원해 대응하지만, AI 시스템은 이런 경우들을 충분히 보거나 시뮬레이션하고 검증해야 할 수 있습니다.

투자 관점에서 이 말은 단순합니다. AI가 특정 업무를 자동화한다고 할 때, 데모가 되는 것과 실제 운영에서 버티는 것은 다릅니다. 데모는 자주 나오는 예시 안에서 잘 작동할 수 있습니다. 그러나 사업이 되려면 예외 상황, 모호한 입력, 책임 소재, 품질 검증까지 견뎌야 합니다. 그래서 저는 AI 회사를 볼 때 ‘모델이 한 번 잘 답했다’보다 ‘그 회사가 분포 밖 상황을 어떻게 모으고 검증하고 다시 학습시키는가’를 더 눈여겨보게 됩니다.

파라미터만 늘린다고 데이터 문제가 사라지지는 않을 수 있습니다

영상은 진화와 스케일링 법칙에 관한 논점도 다룹니다. 먼저 인간이 이미 진화를 거쳐 사전 학습된 존재라는 반론이 있을 수 있습니다. 인간은 태어날 때 완전히 빈 상태가 아니며, 유전적으로 많은 구조를 갖고 태어난다는 주장입니다. 이에 대해 영상은 게놈(genome, 생명체의 유전 정보 전체)이 3GB이고 단백질 코딩 영역이 1~2%라는 비유를 사용합니다. 공개된 자료 기준으로 화자는 이 사실을 들어 인간의 사전 학습된 매개변수가 AI 모델의 거대한 학습 데이터와 단순히 대응된다고 보기 어렵다는 취지의 주장을 펼칩니다.

또 하나 중요한 대목은 Chinchilla scaling-law paper의 상수를 언급하는 부분입니다. 트랜스크립트 인용에 따르면 ‘Even if you increased the number of parameters by infinity, that would only decrease by a factor of ten the amount of data that you need’라는 말이 나옵니다. 파라미터(parameter, 모델 내부의 가중치 수)를 무한히 늘려도 필요한 데이터량은 10분의 1 정도로만 줄어든다는 취지입니다.

이 주장은 조심해서 읽어야 합니다. 영상은 특정 상수와 스케일링 법칙에 근거해 말하고 있으며, 모든 미래 모델 구조에 영원히 적용되는 절대 법칙이라고 단정하기는 어렵습니다. 다만 투자자 관점에서는 충분히 중요한 경고입니다. ‘모델을 더 크게 만들면 데이터 문제는 자연히 해결된다’는 식의 단순한 기대는 위험할 수 있습니다. 데이터 병목은 구조적으로 남아 있을 가능성이 있습니다.

특히 인간과 AI의 샘플 효율성 격차가 수천 배에서 수백만 배 수준이라면, 파라미터 증가만으로 그 차이를 메우기는 어렵다는 것이 영상의 결론에 가깝습니다. 그렇다면 앞으로의 경쟁은 세 방향으로 나뉠 수 있습니다. 더 많은 데이터를 확보하는 경쟁, 더 좋은 데이터를 고르는 경쟁, 적은 데이터로 더 잘 배우는 알고리즘을 찾는 경쟁입니다. 영상은 현재까지 관찰된 큰 진전의 상당 부분이 앞의 두 영역에 있었다고 보는 것 같습니다.

그래도 AI의 비효율은 경제적으로 성립할 수 있습니다

흥미로운 점은 영상이 AI의 낮은 샘플 효율성을 곧바로 약점으로만 보지 않는다는 것입니다. AI는 배우는 데 많은 데이터를 쓰더라도, 한 번 학습된 모델을 아주 많은 사용자 세션에 동시에 적용할 수 있습니다. 영상 요약에는 이를 대량 동시 사용, 세션 증분 활용의 경제성으로 설명합니다.

사람과 비교해 보겠습니다. 한 명의 전문가를 키우는 데 시간이 오래 걸리면, 그 전문가는 하루에 제한된 수의 일을 처리합니다. 반면 AI 모델은 학습 비용이 막대하더라도, 배포 후에는 수많은 사용자에게 동시에 쓰일 수 있습니다. 물론 추론 비용, 품질 관리, 인프라 비용이 남아 있지만, 사용량이 충분히 크다면 학습의 비효율이 경제적으로 상쇄될 수 있습니다.

이 관점은 백색칼라 자동화(white-collar automation, 사무직과 전문직 업무 자동화)를 볼 때 중요합니다. 영상은 공통 과업에서는 분산 가능성이 크다고 봅니다. 예컨대 요약, 초안 작성, 코드 보조, 반복적인 문서 작업처럼 많은 사람이 비슷하게 수행하는 일은 모델이 학습한 분포와 잘 맞을 가능성이 있습니다. 반면 회사별 맥락, 특수한 규정, 드문 예외, 복잡한 책임 판단이 필요한 업무는 훨씬 더 많은 현장 데이터와 검증 체계가 필요할 수 있습니다.

투자 검토에서는 ‘AI가 이 업무를 할 수 있는가’보다 더 세분화된 질문이 필요합니다. 이 업무가 얼마나 반복적인가. 정답 또는 좋은 결과를 검증할 수 있는가. 사람이 만든 루브릭이 있는가. 실패 비용은 어느 정도인가. 사용자 피드백이 다시 데이터로 축적되는가. 이 질문들에 대한 답이 사업의 확장성과 방어력을 가르는 경우가 많아질 것 같습니다.

소프트웨어 엔지니어링은 자동화되지만, 수요는 오히려 늘 수 있다는 역설

영상 말미에서 특히 눈에 띄는 주제는 소프트웨어 엔지니어링입니다. 요약에 따르면 화자는 소프트웨어 엔지니어링이 완전 자동화 대상이라고 보면서도, 장기적으로 AI의 보완으로 인간 소프트웨어 엔지니어 수요가 증가할 수 있다는 베팅을 제시합니다. 특히 ‘2028년 인간 SW 엔지니어 수요가 지금보다 많을 것’이라는 취지의 언급이 나옵니다.

이 주장은 얼핏 모순처럼 들립니다. 자동화가 되면 사람이 줄어야 할 것 같기 때문입니다. 하지만 생산성이 올라가면 수요가 더 커지는 경우가 있습니다. 예를 들어 문서 작성 도구가 좋아졌다고 해서 문서 업무가 사라진 것은 아닙니다. 오히려 더 많은 보고서, 더 많은 제안서, 더 많은 커뮤니케이션이 생겼습니다. 소프트웨어도 비슷할 수 있습니다. 개발 비용이 낮아지면 더 많은 기업과 개인이 더 많은 소프트웨어를 만들고 싶어 할 수 있습니다.

물론 이 부분은 예측입니다. 공개된 자료 기준으로는 하나의 베팅에 가깝습니다. 다만 저는 이 관점이 꽤 현실적인 질문을 던진다고 봅니다. AI 코딩 도구 회사를 볼 때 ‘개발자를 대체하느냐’만 묻는 것은 부족합니다. 오히려 ‘개발 수요 자체를 얼마나 키우는가’, ‘비개발자가 만들 수 있는 소프트웨어의 범위를 어디까지 넓히는가’, ‘전문 개발자의 병목을 어디서 풀어주는가’를 함께 봐야 합니다.

투자자 관점에서는 모델보다 데이터 운영체계를 더 오래 봐야 합니다

이 영상이 투자자에게 주는 가장 큰 시사점은, AI 산업의 가치가 모델 레이어에만 있지 않다는 것입니다. 모델 성능은 중요합니다. 하지만 영상이 말하듯 성능 향상의 중심에 거대한 데이터 블랙홀이 있다면, 장기 차별화는 다음 영역에서 나올 가능성이 있습니다.

먼저 전문가 궤적 데이터입니다. 단순 라벨이 아니라 전문가가 판단하는 과정, 기준, 반례, 실패 사례까지 모을 수 있는 회사는 특정 도메인에서 강한 위치를 가질 수 있습니다.

다음은 루브릭과 검증기의 품질입니다. AI가 만든 결과를 AI가 다시 평가하는 구조가 커질수록, 무엇이 좋은 답인지 정의하는 역량이 중요해집니다. 특히 정답이 하나로 떨어지지 않는 업무에서는 이 기준 설계가 곧 제품 품질이 될 수 있습니다.

분포 내 과업과 분포 밖 과업을 구분하는 운영 감각도 필요합니다. 모델이 잘하는 영역과 불안정한 영역을 구분하지 못하면, 데모는 좋아도 실제 고객 환경에서 문제가 생길 수 있습니다. 반대로 이 경계를 정직하게 알고 제품을 설계하는 회사는 더 안정적으로 확장할 가능성이 있습니다.

마지막은 사용 데이터가 다시 학습 자산으로 돌아오는 구조입니다. 고객이 쓸수록 좋은 피드백이 쌓이고, 그 피드백이 더 나은 검증과 더 나은 데이터로 이어진다면, 시간이 지날수록 방어력이 생길 수 있습니다. 다만 이때 개인정보, 저작권, 고객 데이터 사용 동의, 보안 문제는 별도로 엄격하게 봐야 합니다.

이런 이유로 저는 AI 회사를 볼 때 ‘어떤 모델을 쓰는가’만큼이나 ‘어떤 데이터를 만들고, 누가 검증하며, 어떤 루프가 반복되는가’를 보게 됩니다. 공개 모델 성능이 빠르게 따라오는 환경에서는 단순 앱의 기능 차이는 오래가기 어렵습니다. 반면 도메인 특화 데이터, 검증 환경, 전문가 네트워크, 고객 사용 루프가 결합된 회사는 더 긴 시간을 벌 수 있습니다.

핵심: AI의 겉모습은 능력이지만, 안쪽의 자산은 데이터입니다

Dwarkesh Patel의 이 영상은 AI를 낙관하거나 비관하기보다, 현재 성능이 어디서 오는지를 차분히 보자고 말하는 쪽에 가깝습니다. 핵심은 AI가 인간처럼 적은 경험으로 세상을 이해하고 있다고 보기 어렵다는 것입니다. 오히려 지금의 AI는 거대한 데이터, 계산 자원, 합성 데이터 생성, 검증 루프, 인간 전문가의 판단이 결합된 시스템으로 이해하는 편이 더 정확할 수 있습니다.

투자자 관점에서 저는 이 영상을 보고 한 가지 질문을 다시 붙잡게 됩니다. ‘이 회사의 AI는 무엇을 배웠는가’보다 먼저, 무엇으로부터 배웠고, 누가 그것을 좋은 데이터라고 판단했는가를 물어야 한다는 점입니다. AI 산업의 중심에는 여전히 모델이 있습니다. 그러나 그 모델을 움직이는 중력은 데이터에서 나올 가능성이 높습니다. 이 영상의 제목처럼, 우리가 정말 들여다봐야 할 곳은 화면 위의 답변이 아니라 그 아래에 있는 데이터 블랙홀일지도 모릅니다.