발견이 아니라 루프인 이유: 오류를 고치는 회로만 끝이 없습니다

제프 딘이 구글을 나와 세운 회사 이름은 디스커버리 루프입니다. 발견(discovery)이라는 단어로 끝났어도 충분했을 텐데 뒤에 루프가 붙었습니다.

회사가 내놓은 설명은 실무적입니다. 가설을 내고, 실험을 돌리고, 결과를 채점하고, 다시 가설로 돌아오는 이 회전을 자동화하겠다는 뜻입니다. 그런데 이 단어 조합은 실리콘밸리에서 꽤 특정한 계보를 갖고 있습니다. 옥스퍼드의 이론물리학자 데이비드 도이치가 2011년에 쓴 《The Beginning of Infinity》입니다.

디스커버리 루프가 도이치를 인용한 적은 없습니다. 창업자들이 밝힌 작명 배경은 실험 회전 그 자체이지 철학이 아닙니다. 그러니 이 글이 짚는 것은 출처가 아니라 계보입니다. 다만 그 계보를 알고 나면, 왜 하필 루프라는 단어가 붙었는지가 훨씬 또렷해집니다.

물리학자가 쓴 인식론 책

도이치는 1953년생으로 옥스퍼드 클래런던 연구소에 있습니다. 양자컴퓨팅이라는 분야를 사실상 만든 사람입니다. 1985년에 양자 튜링머신을 정식화했고 지금 큐비트라 부르는 개념을 세웠습니다. 양자역학의 다세계 해석을 밀어붙인 대표적 인물이고, 물리 법칙을 무엇이 가능하고 무엇이 불가능한가로 다시 쓰려는 구성자 이론(constructor theory)의 창시자이기도 합니다. 왕립학회 펠로이고 디랙 메달과 아이작 뉴턴 메달을 받았으며 2022년 기초물리학 브레이크스루상을 받았습니다.

이 이력이 중요한 이유가 있습니다. 도이치는 철학과 소속이 아니라 물리학자입니다. 그래서 지식이 어떻게 생기는지를 취향이나 신념의 문제가 아니라 물리적으로 무엇이 가능한가의 문제로 다룹니다. 이 각도가 실리콘밸리에서 이 책이 받아들여진 방식을 거의 다 설명합니다.

한국어판은 《진리는 바뀔 수도 있습니다》라는 제목으로 알에이치코리아에서 2022년 8월에 나왔습니다. 김혜원 씨가 옮겼고 500쪽이 넘습니다. 이 제목은 책의 논지를 상대주의 쪽으로 기울여 읽게 만드는데, 그 문제는 원제의 뜻을 짚은 다음에야 분명해집니다.

지식은 쌓이는 것이 아니라 설명입니다

책의 출발점은 상식을 뒤집습니다. 우리는 보통 지식을 관찰과 데이터가 쌓여서 만들어지는 것으로 생각합니다. 도이치는 그것이 틀렸다고 봅니다. 관찰은 아무것도 만들어 내지 않습니다. 지식을 만드는 것은 설명이고, 설명은 데이터에서 자동으로 나오지 않습니다. 사람이 대담하게 지어내는 것입니다.

그러면 아무 설명이나 괜찮으냐는 질문이 남습니다. 여기서 이 책에서 가장 실용적인 도구가 나옵니다. 좋은 설명은 바꾸기 어렵다(hard to vary)는 기준입니다.

이 기준이 날카로운 이유는 검증 가능성만으로는 부족하다는 점을 짚기 때문입니다. 페르세포네 신화도 검증할 수 있고 실제로 반증됐습니다. 문제는 반증당해도 이야기를 조금 고쳐서 계속 살릴 수 있다는 것입니다. 반면 지축 기울기 설명은 세부 하나를 빼면 다른 현상들이 줄줄이 어긋납니다. 도망칠 데가 없는 설명, 그것이 좋은 설명입니다.

왜 하필 '무한'인가

책 제목이 무한의 시작인 이유가 이 책의 논지 전체입니다.

인류 역사 대부분은 정적인 사회였습니다. 지식이 거의 늘지 않고 세대가 바뀌어도 같은 것을 반복했습니다. 도이치는 18세기 계몽주의에서 결정적인 것이 바뀌었다고 봅니다. 권위에 기대 정답을 받아 오는 대신, 대담하게 추측하고 그 추측을 사정없이 비판해 틀린 것을 걸러 내는 방식이 자리 잡았습니다. 이 회로가 생긴 순간부터 지식 증가에 원리적 상한이 사라졌습니다.

도이치의 표현을 빌리면, 오류 정정이 없으면 모든 정보 처리는, 따라서 모든 지식 창출은 반드시 유한합니다. 반대로 오류를 고치는 회로가 돌기 시작하면 끝이 없습니다. 무한이 시작되는 지점이 바로 거기입니다.

여기서 이 글의 제목이 나옵니다. 발견 하나는 아무리 대단해도 유한합니다. 언젠가 쓸모를 다하고 다음 문제가 옵니다. 끝이 없는 것은 발견이 아니라 발견을 계속 만들어 내면서 자기 오류를 고치는 회로입니다. 회사 이름에 루프가 붙는 것과 붙지 않는 것의 차이가 여기입니다.

여기서 파생되는 주장들이 이 책을 유명하게 만들었습니다. 문제는 불가피하지만 문제는 풀 수 있다는 명제, 모든 실패는 결국 지식이 부족해서 생긴다는 낙관의 원리, 그리고 물리 법칙이 금지하지 않는 것은 올바른 지식만 있으면 이룰 수 있다는 문장입니다. 우주선 지구라는 비유도 뒤집습니다. 지구가 우리를 살려 주는 안전한 배가 아니라, 옥스퍼드셔에서든 우주 공간에서든 사람을 살아 있게 하는 것은 지식이라는 것입니다.

실리콘밸리가 이 책을 붙든 이유

이 책이 기술 업계에서 받는 대접은 과학 교양서의 그것이 아닙니다.

가장 명시적인 것은 마크 안드리센의 2023년 테크노 낙관주의 선언입니다. 도이치를 테크노 낙관주의의 수호성인 목록에 애덤 스미스, 하이에크와 나란히 올렸고, 낙관할 의무가 있다는 도이치의 문장을 그대로 인용했습니다. 미래는 정해져 있지 않고 열려 있으므로 그냥 받아들일 수 없으며 우리 모두가 그 내용에 책임이 있다는 논지입니다.

나발 라비칸트는 도이치와 여러 차례 직접 대담했습니다. 자기 팟캐스트에 도이치 연작을 올렸고 팀 페리스 쇼에도 함께 나갔습니다. 샘 해리스도 메이킹 센스에 도이치를 여러 번 불렀습니다. 2015년의 대화가 있었고 2025년에도 다시 나눴습니다.

받아들여진 이유는 어렵지 않게 짚입니다. 빠르게 만들고 빠르게 틀리고 빠르게 고치는 방식이 실리콘밸리의 작업 방식인데, 도이치는 그것이 단지 효율적인 관행이 아니라 지식이 생기는 유일한 방식이라고 말해 줍니다. 실패를 도덕적 사건이 아니라 지식 부족의 신호로 다시 정의해 주고, 기술 발전에 대한 비관론에 정면으로 맞설 논거를 줍니다.

다만 이 지점에서 조심할 대목이 있습니다. 이 책은 낙관주의 팸플릿이 아닙니다. 도이치의 낙관은 잘될 것이라는 예측이 아니라 고칠 수 있다는 조건부 주장입니다. 조건은 오류를 고치는 회로가 실제로 돌아가는 것이고, 그 회로를 막는 것이 무엇인지에 대해 그는 꽤 까다롭습니다. 실리콘밸리식 인용에서는 이 조건절이 자주 떨어져 나갑니다.

정작 도이치는 지금의 AI를 인정하지 않습니다

여기가 이 이야기에서 가장 흥미로운 대목입니다.

도이치는 2012년 에세이 창의성의 벽(Creative Blocks)에서 인공일반지능이 왜 아직 없는지를 다뤘습니다. 그의 답은 연산량도 데이터도 아니었습니다. 인식론이 틀렸기 때문이라는 것입니다. 경험과 보상과 처벌을 아이디어로 번역하는 기계라는 발상 자체가 문제이고, 그는 이것을 체액의 균형으로 감염병을 고치려는 시도에 비유했습니다. 세계관이 어긋나 있으니 아무리 정교하게 해도 헛일이라는 뜻입니다. 포퍼식 인식론 없이는 무엇을 만들어야 하는지조차 짐작할 수 없다고도 했습니다.

핵심 논거는 귀납입니다. 관찰을 일반화하는 방식으로는 새 지식이 만들어지지 않는다는 것입니다. 새 설명은 기존 데이터 안에 들어 있지 않고, 데이터를 아무리 많이 모아도 거기서 자동으로 튀어나오지 않습니다. 사람이 하는 일은 지식 공간의 틈을 건너뛰는 것이고, 그것이 진화와 사람이 다른 지점이라고 그는 말합니다. 진화는 한 걸음씩 물리적으로 갈 수 있는 길만 갈 수 있지만 설명은 그렇지 않습니다.

큰 언어모델에 대해서도 입장이 분명합니다. 챗GPT가 훌륭한 챗봇이라는 점은 인정하지만 지능이었던 적은 없다고 잘라 말했습니다. 창의적이지 않다고도 했습니다. 창의성이 기존의 것을 섞는 일이라는 견해를 그는 명시적으로 거부합니다. 그가 보는 진짜 시험은 벤치마크 점수가 아니라, 오래 풀리지 않던 과학 문제를 새 설명으로 해소하는 능력입니다.

한 가지 더 짚을 것은 그가 AI를 못 만든다고 말한 적은 없다는 점입니다. 오히려 물리 법칙상 인공일반지능은 반드시 가능하다고 봅니다. 다만 그것은 규모의 문제가 아니라 이론의 문제이고, 어떻게 하는지 알기만 하면 지금 노트북에서도 짤 수 있을 것이라고 말합니다. 그리고 그런 존재는 불복종할 수 있어야 한다고 덧붙입니다. 시키는 대로만 하는 것은 정의상 새 추측을 못 하기 때문입니다.

자동화된 것은 회로의 절반입니다

이 두 이야기를 겹쳐 놓으면 지금 업계가 서 있는 자리가 선명해집니다.

도이치의 회로는 반쪽이 둘입니다. 무엇을 시도할지 지어내는 추측과, 틀린 것을 걸러 내는 비판입니다. 그런데 지금까지 자동화된 것은 거의 전부 비판 쪽입니다. 단위테스트, 벤치마크, 검증기, 보상 모델, 시뮬레이터가 모두 걸러 내는 장치입니다. 제가 앞서 다룬 검증 루프 이야기가 통째로 이 절반에 대한 것이었습니다.

추측 쪽은 사정이 다릅니다. 디스커버리 루프의 공동창업자 오리올 비냘스는 회사를 발표하면서, 모델이 시도해 볼 새 아이디어를 스스로 내놓는 일에 대해 지금 특별히 강한 부분은 아니라고 인정했습니다. 도이치가 15년 가까이 해 온 지적과 같은 자리를 짚은 것입니다.

이것을 비판으로만 읽을 필요는 없습니다. 도이치 본인의 논리를 따라가면, 비판을 대규모로 자동화하는 것은 그 자체로 대단히 중요한 일입니다. 오류를 고치는 능력이 없으면 아무것도 무한해지지 않으니까요. 사람이 하루에 검토할 수 있는 가설이 몇 개인데 기계가 수천 개를 걸러 낸다면, 사람은 훨씬 대담한 추측을 감당할 수 있게 됩니다.

다만 순서를 착각하지 않는 것이 중요합니다. 채점기를 아무리 빠르게 돌려도 채점 대상이 되는 가설의 폭이 늘지 않으면, 루프는 빠르게 돌되 같은 자리를 돕니다. 이것이 실무에서 피드백 루프를 짓는 일이 대체로 어려운 이유이기도 합니다.

바꾸기 어려움이 지금 쓸모 있는 이유

도이치의 기준 하나는 지금 당장 손에 쥘 수 있는 도구가 됩니다.

큰 언어모델이 내놓는 설명은 대체로 바꾸기 쉽습니다. 어떤 결과를 보여 줘도 그럴듯한 이유를 붙일 수 있고, 반대 결과를 보여 줘도 마찬가지로 그럴듯한 이유를 붙입니다. 이것이 모델이 거짓말을 한다는 뜻은 아닙니다. 설명처럼 보이는 문장을 만드는 일과 좋은 설명을 만드는 일이 다르다는 뜻입니다.

그래서 물어볼 것이 생깁니다. 이 설명에서 세부 하나를 바꾸면 무너지는가, 아니면 무엇을 바꿔도 계속 말이 되는가. 후자라면 그 설명은 아무것도 설명하지 않고 있습니다. 이 질문은 모델 출력뿐 아니라 실적 발표의 사후 해석, 지표가 오른 이유에 대한 설명, 투자 논리에도 그대로 적용됩니다. 어떤 결과가 나와도 유지되는 논리는 예측력이 없습니다.

한국어판 제목이 놓친 것

《진리는 바뀔 수도 있습니다》라는 제목은 오해를 부르기 쉽습니다.

도이치는 오류가능주의자입니다. 우리가 가진 지식은 언제든 틀릴 수 있고 최종적으로 확정된 것은 없다고 봅니다. 여기까지는 제목과 맞습니다. 그런데 그는 상대주의자가 아닙니다. 오히려 상대주의를 책 안에서 명시적으로 공격합니다. 객관적 진리가 있다고 보고, 우리 설명이 그 진리에 점점 가까워질 수 있다고 봅니다.

바뀌는 것은 진리가 아니라 우리의 설명입니다. 그리고 설명이 바뀔 수 있다는 사실이 이 책에서는 약점이 아니라 동력입니다. 고칠 수 있으니 끝없이 나아갈 수 있다는 논지이기 때문입니다.

원제를 그대로 옮기면 무한의 시작입니다. 두꺼운 과학 교양서를 팔아야 하는 사정을 생각하면 편집부의 선택을 이해 못 할 바는 아니지만, 이 책의 주장이 "정답은 없다"가 아니라 "고칠 수 있으니 끝이 없다"라는 점은 알고 읽는 편이 낫습니다.

이 책에서 가지고 나올 것

기술 업계에서 이 책이 왜 계속 인용되는지를 실무 언어로 옮기면, 자산은 발견이 아니라 루프라는 것, 좋은 설명은 바꾸기 어렵다는 것, 그리고 아직 자동화되지 않은 자리를 알아야 한다는 것이 남습니다.

자산은 발견이 아니라 루프입니다. 모델 하나, 논문 하나, 제품 하나는 시간이 지나면 소진됩니다. 남는 것은 그것을 계속 만들어 내면서 자기 오류를 고치는 회로입니다. 이 관점은 제가 앞서 현장의 데이터 루프가 해자가 되는 구조에서 다룬 것과 같은 이야기이고, 지금 디스커버리 루프가 회사 이름으로 내건 것이기도 합니다.

좋은 설명은 바꾸기 어렵습니다. 어떤 결과가 나와도 유지되는 설명은 설명이 아닙니다. 모델 출력이든 사람의 사후 해석이든 같은 기준으로 걸러낼 수 있습니다.

아직 자동화되지 않은 자리를 알아야 합니다. 걸러 내는 일은 빠르게 기계로 넘어가고 있습니다. 무엇을 시도해 볼지 정하는 일은 아직 넘어가지 않았습니다. 도이치가 15년 전에 지적한 자리와 디스커버리 루프가 오늘 인정한 약점이 같은 자리라는 사실은, 이 문제가 유행이 아니라 구조라는 뜻으로 읽힙니다.

책은 두껍고 논지가 여러 갈래로 뻗습니다. 양자역학의 다세계 해석부터 미학과 정치 제도까지 다루는데, 그 모든 갈래가 하나의 주장으로 모입니다. 물리 법칙이 금지하지 않는 것은 올바른 지식이 있으면 이룰 수 있고, 그 지식은 대담한 추측과 사정없는 비판의 회로에서만 생기며, 그 회로가 도는 한 끝이 없다는 것입니다.

디스커버리 루프가 이 책을 인용한 적은 없습니다. 그래도 회사 이름에 루프가 붙은 이유를 묻는다면, 답은 이 문장 안에 이미 들어 있습니다.