허리케인은 드물지만, 허리케인의 모양은 드물지 않습니다

앞선 글에서 아니마 아난드쿠마르가 말한 물리의 벽을 정리하면서 한 문장을 지나가듯 인용했습니다. 다시 읽을수록 이 대화에서 가장 값어치 있는 대목이 여기라는 생각이 듭니다.

"극한 사건인데 아주 특정한 방식으로 극한입니다. 그래서 샘플이 그렇게 많이 필요하지 않을 수도 있습니다. 물리 세계에는 구조가 아주 많기 때문입니다."

상식과 어긋나는 관찰입니다. 허리케인은 드뭅니다. 폭염도 드물고, 핵융합로의 플라즈마 붕괴도 드뭅니다. 기계학습의 기본 상식대로라면 학습 데이터에 거의 없는 사건일수록 모델이 못 맞혀야 합니다. 그런데 아난드쿠마르 팀이 첫 시도에서 허리케인과 폭풍을 시각화했을 때 모델은 잘 해냈고, 본인들도 놀랐다고 말합니다.

이 글은 왜 그런지를 풀어 쓴 것입니다. 앞 글이 "왜 트랜스포머가 물리에서 막히는가"였다면, 이 글은 "그러면 무엇이 그 자리를 메우는가"입니다. 모든 서술은 아난드쿠마르의 발언 기준이고 독립 검증 전입니다.

드문 것은 발생 빈도이지, 생김새가 아닙니다

혼동을 걷어내는 데서 시작해야 합니다. "희귀하다"는 말에는 서로 다른 두 가지가 섞여 있습니다.

빈도가 희귀한 것이 있습니다. 100년에 한 번 오는 폭염, 10년에 몇 번 있는 대형 허리케인입니다. 데이터셋에서 차지하는 비율이 낮습니다.

구조가 희귀한 것이 있습니다. 이전에 본 어떤 것과도 닮지 않아서, 기존 사례로부터 추론할 발판이 없는 경우입니다.

기계학습이 어려워하는 것은 두 번째입니다. 그런데 자연의 극한 사건은 대부분 첫 번째에 속합니다. 아난드쿠마르의 표현이 정확합니다. 극한이되 아주 특정한 방식으로 극한입니다.

허리케인은 아무렇게나 생기지 않습니다. 따뜻한 해수면에서 에너지를 얻고, 코리올리 효과로 회전하며, 중심에 저기압의 눈이 생기고, 나선형 강우대가 붙습니다. 이 물리적 서명은 모든 허리케인에 공통입니다. 카테고리 5짜리 폭풍은 카테고리 1짜리 폭풍과 세기가 다를 뿐, 같은 방정식의 다른 해입니다.

핵융합에서도 같습니다. 아난드쿠마르 팀은 플라즈마 붕괴 예측에 수천 개 샘플밖에 쓰지 않았는데 정확히 예측하고, 전통 시뮬레이션보다 100만 배 빠릅니다. 붕괴는 드문 사건이지만 붕괴로 가는 물리적 경로는 정해져 있기 때문입니다.

자연이 답안지의 절반을 미리 채워 놨습니다

그러면 그 구조는 어디에 있을까요. 방정식 안에 있습니다.

유체는 나비에 스토크스 방정식을 따르고, 전자기장은 맥스웰 방정식을 따르며, 질량과 에너지와 운동량은 보존됩니다. 이것들은 인간이 발명한 규칙이 아니라 자연이 실제로 지키는 제약입니다. 그리고 데이터가 한 점도 없는 곳에서도 성립합니다.

이 차이가 결정적입니다. 언어 모델은 세상이 어떻게 작동하는지를 오로지 데이터에서만 배웁니다. 문장에 보존 법칙이 없기 때문입니다. "어제 비가 왔다"는 문장에서 다음 단어를 제약하는 물리 법칙은 없고, 통계적 규칙성만 있습니다. 그러니 규칙성을 촘촘하게 잡으려면 데이터를 아주 많이 봐야 합니다. 언어에서 규모가 거의 전부였던 이유입니다.

물리에서는 사정이 다릅니다. 답이 놓일 수 있는 공간이 방정식으로 이미 좁혀져 있습니다. 모델이 해야 할 일은 무한한 가능성 중에서 정답을 찾는 것이 아니라, 이미 좁혀진 공간 안에서 위치를 잡는 것입니다. 탐색 범위가 줄면 필요한 표본도 줍니다.

데이터가 없는 자리에 감독 신호를 만들어 냅니다

여기서 실제 작동 방식이 더 흥미롭습니다. 구조는 단순히 "힌트"에 그치지 않고, 데이터가 존재하지 않는 곳에 학습 신호를 새로 만들어 냅니다.

아난드쿠마르는 이것을 해상도 문제로 설명합니다. 뉴럴 오퍼레이터는 함수에서 함수로 가는 사상을 배우기 때문에, 학습에서 본 적 없는 더 높은 해상도로 출력을 뽑을 수 있습니다. 이것을 제로샷 초해상이라 부릅니다.

여기에 당연한 반문이 붙습니다. 데이터에 없는 해상도라면 답이 여러 개일 텐데, 그중 아무거나 고르면 과적합 아니냐는 것입니다. 답이 이렇습니다.

"모델에 물리 손실 항을 줄 수 있습니다. 편미분방정식 제약과 보존 법칙을 주고, 가지고 있는 데이터보다 더 촘촘한 해상도에서 그것을 강제할 수 있습니다. 그러면 안내가 더 생기는 셈이라서, 데이터가 있던 해상도보다 높은 곳에서도 옳은 답을 낼 수 있습니다."

이 대목을 풀어 쓰면 이렇습니다. 관측 데이터가 100킬로미터 격자까지만 있어도, 물리 법칙은 10킬로미터 격자에서도 성립합니다. 그러니 모델에게 "여기서도 질량이 보존돼야 한다"고 요구할 수 있습니다. 데이터는 없지만 정답 여부를 채점할 기준은 있는 상태입니다.

라벨 붙은 데이터를 모으려면 관측이나 시뮬레이션에 큰 비용이 듭니다. 물리 제약은 수식이라 공짜이고, 원하는 만큼 촘촘하게 부과할 수 있습니다. 데이터가 비싼 도메인에서 이 비대칭이 그대로 경쟁력이 됩니다.

수치해법이 놓치던 것을 AI가 주워 담습니다

이 대화에서 개인적으로 가장 깊다고 느낀 대목은 따로 있습니다. 왜 수십 년 된 수치해석이 이 구조를 진작 활용하지 못했는가에 대한 설명입니다.

"자연이 우리를 많이 도와주고, 잠재 공간 구조를 아주 많이 가지고 있습니다. 전통적 수치 기법은 그것을 드러내지 못한다고 봅니다. 그들은 어떤 시나리오에서도 방정식을 풀어낼 수 있어야 한다는 정확성에 더 집중하기 때문입니다. 반면 AI는 데이터에서 배우면서 이 구조를 발굴하고, 이 문제들이 실제로 얼마나 다루기 쉬운지를 드러냅니다."

이것을 일반성의 세금이라 부를 만합니다.

전통 수치해법은 설계 목표가 다릅니다. 어떤 초기조건이 들어와도 정해진 오차 안에서 풀어야 합니다. 최악의 경우를 기준으로 설계된다는 뜻입니다. 그래서 실제 지구 대기에서 일어나는 상태가 가능한 모든 상태 중 극히 일부에 몰려 있다는 사실을 활용할 방법이 없습니다. 원리상 풀 수 있는 모든 문제를 다 풀 준비를 해야 하니까요.

AI는 반대 방향에서 접근합니다. 데이터에서 배우기 때문에 실제로 일어나는 것만 배웁니다. 그 과정에서 진짜 상태 공간이 이론적 상태 공간보다 훨씬 작다는 사실이 드러납니다. 5만 개 샘플과 GPU 한 장으로 슈퍼컴퓨터 결과에 근접하는 이유가 여기 있습니다. 문제가 원래 그렇게 어렵지 않았는데, 범용 해법이 그 사실을 알 수 없었던 것입니다.

이 관점은 유용한 뒤집기를 만듭니다. 딥테크 실사에서 우리는 보통 "이 문제가 얼마나 어려운가"를 묻습니다. 여기서 나오는 질문은 다릅니다. "이 문제가 실제로는 얼마나 쉬운가, 그리고 그 사실을 누가 먼저 알아냈는가." 진짜 상태 공간이 좁다는 것을 남보다 먼저 알아낸 팀은, 남들이 슈퍼컴퓨터로 하던 일을 노트북에서 합니다.

알파폴드가 생물학의 예외였던 이유

같은 논리로 설명되는 사례가 이미 있습니다. 진행자가 대화 중에 좋은 연결을 짚습니다.

단백질 구조 예측은 생물학에서 드문 큰 승리였습니다. 생물학은 전반적으로 복잡하고 기계학습이 애를 먹어 온 분야인데, 유독 이 문제에서 성과가 났습니다. 이유는 단백질 접힘이 물리에 의해 제약받기 때문입니다. 아미노산 사슬이 접힐 수 있는 방식은 원자 간 힘, 결합각, 소수성 상호작용으로 이미 크게 좁혀져 있습니다.

그래서 미분방정식으로 잘 모델링되는 문제일수록 이 기법을 붙일 여지가 크다는 정리가 나옵니다. 이 조건이 지금 어디까지 확장되는지가 이 계열의 시장 크기를 정합니다. 아난드쿠마르가 보여 준 시각화는 원자 수준에서 단백질을 거쳐 행성 규모 기상까지 이어집니다. 뉴럴 오퍼레이터는 그 서로 다른 스케일을 하나의 틀에서 다루도록 설계됐다는 것이 핵심 주장입니다.

구조가 없는 곳에서는 이 논리가 통하지 않습니다

여기서 균형을 잡아야 합니다. "적은 데이터로 된다"는 문장이 아무 데서나 성립하지는 않습니다.

첫째, 구조 가정이 틀리면 없느니만 못합니다. 귀납 편향은 탐색 공간을 좁히는 장치라서, 정답이 그 좁혀진 공간 밖에 있으면 모델은 그 방향을 아예 보지 못합니다. 앞 글에서 다룬 구면 기하 사례가 좋은 예입니다. 지구가 구라는 가정을 넣자 긴 롤아웃이 안정됐습니다. 반대로 평면 가정을 고집했다면 데이터를 아무리 늘려도 발산했을 것입니다. 구조는 공짜 성능이 아니라 베팅입니다.

둘째, 희귀 사건에는 확률 보정이 따로 필요합니다. 아난드쿠마르는 극한 사건을 다룰 때 단일 결정론적 출력으로는 부족하다고 분명히 말합니다. 세심한 확률 보정이 있어야 하고, 3세대 모델에 앙상블이 들어간 이유가 그것입니다. 잘 맞힌다는 말은 "하나의 정답을 찍는다"가 아니라 "분포를 제대로 그린다"에 가깝습니다.

셋째, 신뢰 문제는 아직 열려 있습니다. 대화에서 그는 긴 기후 시뮬레이션이 물리적으로 유효하지 않은 상태로 흘러갈 수 있다는 점을 미해결 문제로 남겨 둡니다. 빠르면서 동시에 완전히 신뢰할 수 있어야 하는데, 그 둘을 함께 보장하는 일은 진행 중인 과제입니다.

정리하면 이 접근이 통하는 조건은 셋입니다. 지배 법칙이 알려져 있을 것, 그 법칙이 데이터 없는 영역에서도 부과 가능할 것, 그리고 실제 상태 공간이 이론적 상태 공간보다 좁을 것.

데이터가 적다는 말을 두 갈래로 나눠 듣습니다

투자 판단으로 옮기면 실용적인 구분 하나가 생깁니다.

"데이터가 부족한 시장"이라는 말은 지금까지 대체로 감점 요인이었습니다. 그런데 위 논의를 지나면 같은 말이 두 갈래로 갈립니다.

구조가 있는 데이터 부족은 진입장벽입니다. 물리 법칙이 데이터를 일부 대신해 주므로 적은 표본으로도 작동하는 모델을 만들 수 있고, 그것을 만들 줄 아는 팀은 드뭅니다. 자본을 부어 데이터를 사들이는 방식으로는 따라잡히지 않습니다. 필요한 것이 데이터가 아니라 어떤 구조를 넣을지 아는 안목이기 때문입니다.

구조가 없는 데이터 부족은 그냥 결핍입니다. 지배 법칙이 없으면 채점 기준을 만들 수 없고, 그러면 남는 길은 데이터를 더 모으는 것뿐입니다. 이 경우 우위는 모델이 아니라 데이터 확보 계약에 있습니다.

그래서 이 계열 회사를 볼 때 물어야 하는 것이 구체화됩니다. 이 도메인의 지배 방정식이 무엇인지, 그것을 손실 함수에 어떻게 넣었는지, 데이터가 없는 영역에서 무엇으로 채점하는지, 그리고 그 구조 가정이 틀렸을 때 어떻게 알아차리는지입니다. 답이 "데이터를 더 모으고 있습니다"에 머문다면 두 번째 갈래일 가능성이 높습니다.

앞 글에서 정리한 재평가 사건 관점과 이어 붙이면 순서가 나옵니다. 구조를 제대로 넣었는지가 기술 검증이고, 그것이 기관 채택으로 확인되는 시점이 값을 다시 매기는 자리입니다.

맺으며

데이터가 적어도 되는 이유는 모델이 똑똑해서가 아니라, 자연이 답이 놓일 자리를 미리 좁혀 두었기 때문입니다.

---

출처 노트: Latent Space, "Why Transformers Hit a Wall the Moment Physics Shows Up" (2026-08-26, 83분) 자막 전문 기준. 앞선 정리는 여기에 있습니다. 인용문은 자막을 옮기며 문장을 다듬었고, 성능 수치는 모두 발언 기준이며 독립 검증 전입니다. 일반성의 세금이라는 표현은 원 발언을 옮긴 것이 아니라 필자가 붙인 이름입니다.