인터넷을 다 읽은 AI도, 세계에서는 초보입니다
2026년 8월 18일 Sequoia Capital 인터뷰에서 Rich Sutton은 '지속학습'이라는 수식어부터 이상하다고 말했습니다. 학습은 원래 멈추지 않는 과정이라는 뜻입니다.
“All learning is continual.”
사람과 동물에게 학습은 행동과 경험이 이어지는 과정입니다. 지금의 AI만 학습을 배포 전 공정으로 분리합니다. 인터넷을 읽고, 후반학습을 거쳐, 제품으로 나가는 순간 가중치를 얼립니다. 그 뒤의 대화와 작업은 문맥이나 외부 메모리에 남을 수 있지만 모델이 새로운 개념을 만드는 방식 자체는 거의 바뀌지 않습니다.
Sutton과 Khurram Javed가 함께 세운 Oak의 문제의식은 이 지점에서 출발합니다. 부족한 데이터를 더 공급하는 현재 경로를 넘어, 실제 세계에서 경험하고 계속 바뀌는 학습 알고리즘을 다시 설계하겠다는 베팅입니다. 인터뷰는 창업자의 주장입니다. 공개 연구로 확인된 부분과 아직 입증되지 않은 목표를 나눠 읽어야 합니다.
LLM은 Bitter Lesson을 절반만 통과했습니다
Sutton의 Bitter Lesson은 알고리즘이 필요 없다는 주장이 아닙니다. 사람이 특정 도메인의 지식을 일일이 넣는 방법보다, 계산량이 늘수록 함께 좋아지는 학습과 탐색 방법이 장기적으로 이겼다는 주장입니다.
LLM은 이 원칙의 성공 사례입니다. 인터넷 규모의 말뭉치를 범용 학습 방법과 계산으로 흡수했습니다. Sutton도 인터뷰에서 신경망이 언어를 유창하게 다루게 된 일을 예상하지 못한 과학적 돌파구로 평가합니다.
동시에 LLM은 같은 원칙의 다음 한계를 보여줍니다. 인터넷은 크지만 유한하고, 사람이 남긴 기록입니다. 모델은 사전학습과 후반학습 동안에는 바뀌지만 실제 사용자와 만난 뒤에는 대체로 멈춥니다. 외부 메모리는 노트를 찾아보는 능력이지 몸에 남는 학습은 아닙니다. Sutton이 문제 삼는 것은 사전 지식의 양이 아니라 새 경험이 다시 가중치와 개념을 바꾸지 못하는 구조입니다.
사전 지식과 경험은 경쟁 관계도 아닙니다. 로봇이나 에이전트는 기존에 배운 상태에서 복제될 수 있고, 그 지식을 출발점으로 각자의 환경에서 계속 배우면 됩니다. Oak의 주장은 사전학습을 없애자는 것이 아니라 학습의 종료 시점을 없애자는 쪽에 가깝습니다.
합성데이터는 생성자를 지우지 못합니다
인터뷰에서 가장 날카로운 대목은 합성데이터에 대한 반론입니다. Javed는 좋은 합성데이터와 나쁜 합성데이터를 누가 구분하는지 묻습니다. 물리 환경에서 반향 위치 측정으로 나는 드론을 만들려면, 어떤 세계를 모사하고 어떤 오차를 허용할지 아는 전문가가 먼저 필요합니다. 시뮬레이션과 현실의 차이가 드러나면 엔지니어가 다시 시뮬레이터를 고칩니다.
데이터를 무한히 생성해도 무엇을 생성할지 정하는 인간과 현실과의 차이를 고치는 인간이 남습니다. 이 관점에서 합성데이터는 인간 전문성의 레버리지는 될 수 있어도 인간 병목을 제거하지는 못합니다.
Oak가 원하는 루프는 다릅니다. 에이전트가 현실에서 행동하고 결과를 관찰한 뒤, 자기 세계 모델을 만들고 오류를 직접 수정합니다. 시뮬레이션도 버리지 않습니다. 사람이 완성해 준 고정 시뮬레이터보다 에이전트가 경험에서 학습하고 계속 고치는 모델을 원합니다.
다만 합성데이터가 무용하다는 결론은 지나칩니다. 규칙과 정답 판정이 명확한 수학·코드·게임에서는 자기대국과 검증 가능한 합성데이터가 이미 강력합니다. 인터뷰에서도 Sutton은 AlphaGo와 수학을 세계의 전이 규칙이나 연산자가 알려진 경우로 구분합니다. 반론의 적용 범위는 물리·사회·사용자 선호처럼 환경을 완전히 기술하기 어려운 열린 문제입니다.
세계가 모델보다 크면, 학습은 캐시처럼 작동합니다
Big World Hypothesis는 모든 문제가 복잡하다고 말하지 않습니다. 이차방정식처럼 작고 완전한 해법이 있는 문제도 있습니다. 다만 현실의 중요한 의사결정 문제 상당수에서는 에이전트가 환경보다 훨씬 작고, 모든 상태와 최적 행동을 표현할 수 없다고 가정합니다.
환경에는 다른 에이전트도 포함됩니다. 계산이 늘면 센서가 더 많은 데이터를 만들고 다른 에이전트도 복잡해집니다. 한 에이전트가 커지는 만큼 바깥 세계도 커지므로, 충분히 큰 모델 하나가 모든 중요한 지식을 영구히 담는 종착점이 오지 않을 수 있습니다.
Javed는 이때 필요한 능력을 CPU 캐시에 비유합니다. 캐시는 전체 메모리보다 작지만 지금 자주 쓸 정보를 남기고 덜 필요한 것을 버립니다. 에이전트도 현재 환경과 목표에 필요한 지식을 빠르게 배우고, 쓸모가 줄면 자원을 다른 곳에 배분해야 합니다. 원문은 이를 tracking이라고 부릅니다.
이 가정을 받아들이면 모델의 목적도 달라집니다. 모든 것을 기억하는 단일 범용 지능보다 같은 설계에서 출발해 서로 다른 경험으로 분화하는 여러 지능이 자연스럽습니다. 사용자별 에이전트, 산업별 로봇, 현장별 제어 시스템이 같은 기반 모델을 공유하더라도 시간이 갈수록 서로 다른 가중치와 세계 모델을 갖게 됩니다.
망각보다 먼저, 배울 능력 자체가 약해집니다
새 지식을 배운 뒤 옛 지식의 성능이 떨어지는 현상은 파국적 망각입니다. Sutton 연구진이 별도로 제기한 가소성 상실(loss of plasticity)은 새 과제를 배우는 능력 자체가 훈련이 길어질수록 약해지는 현상입니다.
2024년 Nature에 실린 Loss of plasticity in deep continual learning은 Continual ImageNet, CIFAR-100과 강화학습 환경에서 표준 딥러닝 네트워크가 장기 학습 중 가소성을 잃는 결과를 보고했습니다. 일부 설정에서는 초기 과제 정확도가 88%까지 올랐지만, 2,000번째 과제에는 선형 네트워크 수준이나 그 아래로 내려갔습니다.
연구진의 continual backpropagation은 덜 쓰이는 유닛의 작은 일부를 계속 무작위로 다시 초기화합니다. 일반 역전파가 시작 시점에만 주는 무작위성과 다양성을 학습 중에도 조금씩 다시 주입하는 방식입니다. 논문의 실험 범위에서는 가소성을 장기간 유지했습니다. 인터뷰에서 Sutton은 여기에 가중치마다 다른 학습률을 메타학습하는 step-size optimization을 결합해야 한다고 설명합니다.
| 근거 수준 | 현재 말할 수 있는 것 | 아직 말할 수 없는 것 |
|---|---|---|
| 동료평가 연구 | 실험한 이미지·강화학습 설정에서 표준 네트워크의 가소성 상실과 continual backpropagation의 개선이 관찰됨 | 프런티어 LLM에서도 같은 효과와 비용 구조가 유지됨 |
| 인터뷰의 알고리즘 제안 | 가중치별 학습률과 유닛 생성·검사를 결합하겠다는 구체적 방향 | 기존 LLM에 바로 붙여 지속학습을 해결할 수 있음 |
| Oak의 연구 계획 | 지식과 함께 미래의 학습법을 익히는 새 기반 모델을 처음부터 훈련하려 함 | 망각 없이 사용자별 경험을 장기간 축적하는 제품이 완성됨 |
| 장기 비전 | 5~10년 뒤 20와트로 작동하는 1조 파라미터급 시스템을 목표로 제시 | 현재 메모리 기술과 알고리즘으로 실현 가능함 |
논문도 대규모 언어모델의 체계적인 장기 실험은 계산비용 때문에 수행하지 못했다고 밝힙니다. 작은 네트워크에서 유지된 가소성이 모델 규모, 문맥 길이, 다중 능력, 안전 후반학습을 모두 가진 LLM에서도 유지되는지는 열려 있습니다.
Oak는 기존 LLM의 패치가 아니라 새 출발을 택했습니다
Javed는 현재 완성된 LLM에 continual backpropagation을 켜는 것만으로는 부족하다고 말합니다. 새 알고리즘이 지식을 배우는 동시에 앞으로 어떻게 배울지도 메타학습해야 하므로, 기반 모델을 처음부터 다시 훈련해야 한다는 설명입니다.
이 선택은 기술 위험을 크게 만듭니다. 현재 방식은 더 많은 데이터와 계산을 넣으면 당장 성능이 오르는 경로가 보입니다. 새 방식은 기존 최고 성능보다 먼저 나빠질 수 있고, 그 구간을 지나야 다른 최적점에 도달하는지 알 수 있습니다. Javed는 대형 연구소가 이미 제품과 확장 경로에 묶여 있어 이 일시적 후퇴를 감수하기 어렵다고 봅니다.
Oak의 연구 축은 지속학습에서 끝나지 않습니다. Alberta Plan이 제시한 또 다른 과제는 에이전트가 경험에서 적절한 추상화를 스스로 만들고, 학습한 세계 모델로 계획하는 능력입니다. AlphaGo는 게임 규칙을 알고, 수학 증명기는 연산자를 압니다. 열린 세계에서는 무엇을 상태로 보고 무엇을 예측할지부터 에이전트가 찾아야 합니다.
그래서 Oak의 대체재는 더 큰 언어모델 하나가 아닙니다. 감각과 행동의 짧은 시간척도부터 여행 계획 같은 긴 시간척도까지 연결하고, 그 지식을 계속 고치면서도 전체 마음의 일관성을 유지하는 학습 설계입니다. 야심은 크고, 공개된 완성 증거는 아직 없습니다.
기술기업의 학습 폐루프를 봐야 합니다
이 관점이 맞다면 정적 데이터 보유량보다 경험을 얻고 모델을 고치는 폐루프가 더 중요한 자산이 됩니다.
경험의 독점성이 먼저입니다. 제품이 실제 행동과 결과를 관찰하는지, 아니면 사람이 만든 예제와 평가만 반복하는지 구분해야 합니다. 로봇·물류·코딩·개인 비서처럼 행동 결과가 돌아오는 제품은 폐루프를 만들 여지가 큽니다.
학습의 지속성도 따로 봐야 합니다. 세션 문맥, 검색 메모리, 사용자별 어댑터, 주기적 배치 재학습, 온라인 가중치 갱신은 다른 구조입니다. 모두 개인화처럼 보일 수 있지만 무엇이 얼마나 오래 바뀌는지는 다릅니다.
검증과 복구는 성능만큼 중요합니다. 계속 변하는 모델은 출시 전 평가 결과에서 멀어집니다. 어떤 경험으로 어떤 파라미터가 바뀌었는지 추적하고, 성능과 안전이 나빠지면 이전 상태로 돌릴 수 있어야 합니다. 지속학습이 풀리면 품질 보증과 서빙 비용이 함께 커집니다.
추상화와 계획은 최종 관문입니다. 경험을 많이 쌓아도 다음 토큰 예측이나 짧은 반응에만 머물면 세계 모델을 이용한 장기 행동으로 이어지지 않습니다. 새 개념을 발견하고, 그 개념으로 여러 단계의 결과를 예측하는지가 Oak의 더 어려운 과제입니다.
이 베팅이 틀렸다고 볼 신호
Oak의 가설은 분명한 반증 조건을 갖습니다.
- continual backpropagation과 가중치별 학습률의 이점이 LLM 규모에서 사라지거나, 같은 성능을 내는 계산·메모리 비용이 재학습보다 커질 수 있습니다.
- 외부 메모리와 하네스 개선이 사용자가 원하는 개인화를 충분히 제공해, 사용자별 가중치 갱신의 추가 가치가 작을 수 있습니다.
- 수학·코드·시뮬레이션처럼 검증 가능한 영역이 경제적 가치의 큰 부분을 차지하면 합성데이터의 인간 병목은 생각보다 늦게 나타날 수 있습니다.
- 현실의 업무가 Big World여도 기업이 실제로 풀어야 하는 과제는 좁고 반복적일 수 있습니다. 이 경우 계속 변하는 모델보다 잘 검증된 고정 모델이 더 싸고 안전합니다.
- 지속학습으로 생기는 안전 드리프트, 사용자별 모델 분화, 감사와 롤백 비용이 성능 향상보다 클 수 있습니다.
AI의 다음 데이터셋은 세계 그 자체일 수 있습니다
Sutton과 Javed의 주장은 LLM의 성과를 부정하지 않습니다. 인터넷을 학습한 모델이 언어 지능을 크게 전진시켰다는 사실을 인정한 뒤, 그 성공 방식을 지능 전체와 동일시하지 말자는 경고입니다.
합성데이터는 현재 경로를 더 길게 만들 수 있습니다. 그러나 사람이 목표와 평가기를 정하고, 현실과의 차이를 사람이 고치는 한 확장의 마지막 고리는 인간에게 남습니다. Oak는 그 고리를 에이전트의 경험학습으로 옮기려 합니다.
연구의 출발점은 보였지만 대규모 입증은 남아 있습니다. 지금 확인된 것은 표준 딥러닝이 오래 학습할수록 가소성을 잃을 수 있고, 무작위 다양성을 계속 주입하면 일부 환경에서 이를 막을 수 있다는 정도입니다. 이 작은 씨앗이 프런티어 모델의 새 계보가 될지, 기존 LLM 스택의 한 모듈로 흡수될지는 아직 모릅니다.
다만 질문은 선명해졌습니다. 다음 모델이 얼마나 더 많이 알고 있는지가 아니라, 배포된 뒤 무엇을 새로 배울 수 있는가입니다.
출처·검증 범위: Oak의 제품 계획·전력 목표·기간 전망은 2026년 8월 18일 공개된 Sequoia Capital 인터뷰의 창업자 발언이며, 독립적으로 입증된 성과가 아닙니다. 공개 연구자료가 확인하는 범위는 본문에 따로 표시했습니다. 특정 기업이나 종목에 대한 판단은 포함하지 않습니다.
주요 출처: Rich Sutton and Khurram Javed 인터뷰, The Big World Hypothesis, Loss of plasticity in deep continual learning, The Alberta Plan for AI Research, The Bitter Lesson.