← Back to list2026-08-06

제프 딘이 27년 만에 구글을 나왔습니다. 병목은 아이디어가 아니라 실험이라고 봤습니다

AI for Science제프 딘디스커버리 루프딥마인드자동화 연구

2026년 8월 5일, 구글의 최고과학자 제프 딘이 27년 만에 회사를 떠났습니다. 혼자 나온 것이 아닙니다. 30년 가까이 함께 코드를 짜 온 사냐이 게마와트, 제미나이의 공동 기술총괄이자 구글 딥마인드 리서치 부사장인 오리올 비냘스, 구글 브레인 창립 멤버인 쿽 레가 같이 나왔습니다. 넷이 세운 회사 이름은 디스커버리 루프(Discovery Loop)이고, 델라웨어주 공익법인(Public Benefit Corporation)으로 등록됐습니다. 딘이 대표를 맡습니다.

발표 당일 알파벳 주가는 약 5퍼센트 빠졌고, 보도 기준 시가총액 1,600억~2,000억 달러가 사라졌습니다. 같은 날 구글 딥마인드 조직도 함께 바뀌었습니다. 데미스 하사비스가 일상 운영에서 물러나 구글 딥마인드 의장 겸 알파벳 최고과학자로 이동했고, 기존 최고기술책임자였던 코라이 카북추오글루가 수석부사장으로 올라가 순다르 피차이에게 직접 보고하며 제미나이 모델과 프런티어 연구를 맡게 됐습니다.

그런데 주가나 인사보다 훨씬 중요한 것은 이 회사가 무엇을 하겠다고 말했느냐입니다. 딘이 자동화하겠다고 지목한 대상은 모델도, 지식도, 논문도 아닙니다. 실험 한 바퀴 그 자체입니다.

제프 딘이라는 사람

딘은 1999년 구글 초기에 합류했습니다. 미네소타대에서 학부를, 워싱턴대에서 박사를 마쳤습니다. 이후 27년 동안 그가 만든 것들의 목록은 사실상 현대 인터넷 인프라의 목록과 겹칩니다.

게마와트와 함께 2004년에 낸 맵리듀스(MapReduce)는 웹 전체를 값싼 서버 다발에 흩어 놓고 병렬로 처리하는 방법을 정의했고, 하둡을 비롯한 이후 세대 전부가 여기서 나왔습니다. 2005년의 빅테이블(BigTable)은 카산드라와 HBase 같은 비관계형 저장소 계열의 원형이 됐고, 2012년의 스패너(Spanner)는 지구 규모로 흩어진 데이터베이스에서 강한 일관성을 지키는 일이 가능하다는 것을 보여 줬습니다. 지금도 구글 검색과 지메일과 유튜브가 이 위에서 돕니다.

기계학습 쪽으로 넘어와서는 2011년 구글 브레인을 공동 창업했고 텐서플로가 여기서 나왔습니다. TPU를 10년 넘게 밀어붙여 신경망 추론 비용을 자릿수 단위로 끌어내린 것도 그의 일입니다. 2018년부터는 구글 AI 전체를 총괄했고, 구글 리서치와 딥마인드가 합쳐진 뒤에는 최고과학자로 제미나이의 기술 방향에 관여했습니다.

딘과 게마와트의 관계는 업계에서 별도의 전설로 취급됩니다. 두 사람은 한 화면 앞에 나란히 앉아 한 사람이 타자를 치고 다른 사람이 지켜보는 방식으로 수십 년간 함께 일했고, 2018년 뉴요커가 이 협업 자체를 한 편의 기사로 다뤘습니다. 당시 기준으로 두 사람은 구글 안에서 최초이자 유일한 레벨 11 시니어 펠로였습니다.

여기서 눈여겨볼 대목이 있습니다. 딘은 생물학자도 화학자도 아닙니다. 그는 대규모 시스템을 짓는 사람입니다. 그런 사람이 회사를 나가며 고른 문제가 "과학"이라는 사실이, 이 창업의 성격을 거의 다 설명합니다.

게마와트·비냘스·레가 함께 나온 이유

창업팀 구성을 보면 회사가 무엇을 문제로 보는지가 드러납니다.

게마와트는 딘과 함께 구글 파일 시스템, 맵리듀스, 빅테이블, 스패너를 만든 시니어 펠로입니다. 분산 시스템 분야에서 가장 많이 인용되는 연구자 중 한 명입니다. 비냘스는 시퀀스 투 시퀀스, 알파스타, 알파코드를 거쳐 제미나이의 기술을 이끌었습니다. 쿽 레는 구글 브레인 창립 멤버로, 신경망 구조 탐색을 자동화하는 오토ML 계열을 밀었고 특히 오토ML 제로(AutoML-Zero)에서는 기본 수학 연산만 주고 학습 알고리즘 자체를 진화로 찾아내게 했습니다. 생각의 사슬(chain-of-thought) 계열 작업에도 관여했습니다.

딘과 게마와트가 분산 시스템 쪽이고, 비냘스와 레가 모델 쪽입니다. 회사도 이 배치를 숨기지 않습니다. 딘은 이 문제를 풀려면 기계학습 전문성과 대규모 시스템 전문성이 둘 다 필요하다고 못 박았습니다. 즉 이들은 자동 연구를 "더 똑똑한 모델을 만들면 되는 문제"로 보지 않습니다. 수천 개의 실험을 동시에 띄우고 관리하고 채점하는 인프라 문제로 봅니다. 게마와트가 창업팀에 있는 이유가 그것입니다.

회사가 자동화하겠다는 것

디스커버리 루프의 설명은 놀라울 만큼 단순합니다. 과학적 발견은 병목에 걸려 있는데, 그 병목이 지식이나 아이디어가 아니라 똑같은 실험 회전을 사람이 손으로 돌린다는 사실이라는 것입니다.

가설을 세우고, 실험을 설계하고, 구현하고, 돌리고, 결과를 들여다보고, 그 결과로 다음 가설을 고칩니다. 이 한 바퀴는 분야가 달라도 모양이 같습니다. 회사를 함께 지원한 래디컬 벤처스는 이 지점을 이렇게 표현했습니다. 과학적 방법은 인류가 만든 가장 강력한 알고리즘인데, 우리는 지금까지 그 알고리즘을 손으로 실행해 왔다는 것입니다.

디스커버리 루프가 자동화 대상으로 지목한 것은 개별 모델이 아니라 실험 회전 전체입니다. 회사 발표 기준.

딘의 표현을 빌리면, 지금까지 사람 손이 아주 많이 들어가던 실험 루프를 AI로 더 온전히 자동화할 여지가 있다는 것입니다. 창업팀이 공동으로 낸 문장은 더 직설적입니다. AI의 다음 전선은 질문에 답하는 단계를 넘어 발견을 시작하는 단계라는 것입니다.

왜 하필 머신러닝 연구부터인가

여기가 이 창업에서 가장 흥미로운 대목입니다. 회사는 신약도 소재도 아니고 머신러닝 연구와 엔지니어링 자동화부터 시작하겠다고 했습니다. 그다음에 칩 설계, 생물학, 신약, 청정에너지로 넓히고, 궁극적으로는 미국 공학한림원이 정리한 공학 그랜드 챌린지 목록의 상당수를 건드리겠다고 밝혔습니다.

순서가 이렇게 정해진 이유는 간단합니다. 채점이 얼마나 싼가입니다.

머신러닝 연구에서는 "이 변경이 좋았는가"를 판정하는 데 사람이 필요 없습니다. 손실값이 떨어졌는지, 벤치마크 점수가 올랐는지, 커널이 몇 밀리초 빨라졌는지가 자동으로 나옵니다. 채점기가 이미 코드 안에 들어 있고, 비용은 컴퓨팅뿐이며, 결과는 몇 분에서 몇 시간이면 나옵니다. 반면 신약은 한 바퀴를 도는 데 수년과 임상시험이 필요합니다.

이 차이가 회사의 로드맵을 그대로 결정했습니다.

회사가 밝힌 진출 순서는 분야의 중요도 순이 아니라, 결과를 기계가 판정할 수 있는 정도의 순서입니다.

이 구조는 제가 앞서 다룬 검증 루프 이야기와 정확히 같습니다. 모델을 학습시키든 과학을 하든, 자동화가 걸리는 유일한 조건은 무엇이 잘된 것인지 기계가 판정할 수 있는가입니다. 회사가 스스로 정한 사업 범위도 그 조건을 그대로 옮겨 놓은 것입니다. 측정 가능한 결과가 나오는 학습 루프라면 어떤 분야든 대상이라고 말했으니까요.

이들이 믿고 있는 것

창업 발표와 딘의 최근 발언을 겹쳐 보면 전제가 드러납니다. 병목은 회전수라는 것, 채점 가능한 것만 자동화된다는 것, 이것이 모델보다 시스템 문제라는 것, 루프를 자기 자신에게 먼저 건다는 것, 추론 하드웨어가 다음 변곡점이라는 것입니다. 회사가 명시적으로 "우리의 믿음"이라고 나열한 것은 아니지만, 선택 하나하나가 이 판단들 위에 서 있습니다.

병목은 아이디어가 아니라 회전수입니다. 회사의 접근은 더 좋은 가설 하나를 얻는 데 있지 않고, 평범한 가설이라도 수천 개를 동시에 돌려 걸러 내는 데 있습니다. 딘은 문제를 하위 문제로 쪼개고 그 하위 문제들을 자동 실험 루프에 넣은 뒤 결과를 다시 통합하는 방식을 2027년의 그림으로 이야기했습니다. 이것은 지능의 문제라기보다 처리량의 문제로 보는 관점입니다.

채점할 수 없는 것은 자동화되지 않습니다. 회사는 대상을 "측정 가능한 결과가 있는 학습 루프"로 한정했습니다. 이 한정은 겸손이 아니라 설계 원칙입니다. 채점기가 없는 문제에서는 루프가 아무리 빨리 돌아도 어느 방향으로 가는지 알 수 없기 때문입니다.

이것은 모델 문제가 아니라 시스템 문제입니다. 창업팀에 분산 시스템 연구자가 절반인 이유입니다. 실험 수천 개를 동시에 띄우고, 자원을 배분하고, 실패를 격리하고, 결과를 모아 다음 세대를 만드는 일은 모델 성능이 아니라 인프라 설계에 달려 있습니다. 맵리듀스와 스패너를 만든 사람들이 이 문제에 붙었다는 사실 자체가 회사의 논지입니다.

루프는 자기 자신에게 먼저 겁니다. 회사는 자동화한 머신러닝 능력을 자기 기술 스택을 개선하는 데 먼저 쓰고 그다음에 바깥으로 넓히겠다고 밝혔습니다. 재귀적 자기 개선을 탐색하겠다는 표현도 나왔습니다. 첫 도메인을 머신러닝 연구로 잡은 것은 시장 크기 때문이 아니라, 그 도메인의 산출물이 곧 자기 도구가 되기 때문입니다.

추론 하드웨어가 다음 변곡점입니다. 딘은 퇴사 직전 인터뷰에서 고성능 저전력 추론 하드웨어를 2026년의 결정적 전환점으로 꼽았습니다. 구글이 2001년에 디스크 색인에서 메모리 색인으로 넘어갔던 순간에 비유하면서, 전용 하드웨어가 지연시간 50배와 에너지 효율 수십 배 개선을 가져올 수 있다고 봤습니다. 그가 드는 근거는 물리입니다. 연산 한 번은 대략 1피코줄인데 데이터를 옮기는 데는 그 1000배가 든다는 것입니다. 실험을 수천 개 병렬로 돌리겠다는 회사에서 이 숫자는 곧 원가 구조입니다.

지금 모델의 약점을 알고 시작합니다. 비냘스는 모델이 시도해 볼 새로운 아이디어를 스스로 내놓는 일에 대해, 지금 특별히 강한 부분은 아니라고 인정했습니다. 그래서 초기 시스템은 사람과 함께 아이디어를 만드는 형태로 가고, 자동화 정도를 점차 높이겠다고 했습니다. 창업 발표에서 자기 약점을 먼저 말하는 것은 흔한 일이 아닙니다.

딘이 창업자들에게 준 조언도 같은 사고방식에서 나옵니다. 노리는 분야를 현재 최고 모델로 시험해 보라는 것입니다. 성공률이 0~1퍼센트면 기회이고, 20퍼센트면 다음 세대 모델이 곧 덮을 영역이니 피하라는 이야기입니다.

딥마인드가 이미 만들어 둔 것

디스커버리 루프의 발상은 새것이 아닙니다. 구글과 딥마인드 안에서 10년 넘게 축적된 계보를 그대로 들고 나온 것에 가깝습니다.

쿽 레의 오토ML 제로는 덧셈과 곱셈 같은 기본 연산만 주고 학습 알고리즘 자체를 진화 탐색으로 찾게 했습니다. 펀서치(FunSearch)는 언어모델이 코드를 제안하고 자동 평가기가 채점하는 구조로 오래된 조합론 문제에서 새 해법을 찾았습니다. 알파칩은 칩 배치를 강화학습으로 풀었습니다.

가장 직접적인 조상은 2025년의 알파에볼브(AlphaEvolve)입니다. 제미나이가 코드를 제안하고, 자동 평가지표가 채점하고, 좋은 것만 남겨 다음 세대를 만드는 진화형 코딩 에이전트입니다. 발표 기준 성과가 구체적입니다. 4×4 복소 행렬 곱셈을 스칼라 곱 48회로 줄여 1969년 슈트라센 이후의 기록을 갱신했고, 제미나이 학습에 쓰이는 커널을 23퍼센트 빠르게 만들어 전체 학습 시간을 1퍼센트 줄였으며, 데이터센터 스케줄링에서 자원 0.7퍼센트를 회수했고, 공개된 수학 난제 약 50개 중 20퍼센트 정도에서 기존 최고 결과를 개선했습니다. AI 코사이언티스트는 제미나이 기반 다중 에이전트로 가설과 연구 제안을 만들어 냈고, 두 시스템 모두 지금은 제미나이 엔터프라이즈를 통해 제품으로 팔립니다.

이 계보의 공통 구조를 보면 하나로 수렴합니다. 제안하고, 실행하고, 자동으로 채점하고, 반복한다. 알파에볼브가 수학과 커널에서 한 일을, 디스커버리 루프는 머신러닝 연구 전체로 넓히겠다는 것입니다.

그래서 이 창업은 구글 입장에서 이중적입니다. 자기 안에서 자란 방법론이 밖으로 나갔지만, 알파벳이 창립 투자자로 들어갔고 구글 클라우드가 첫 1년 컴퓨팅을 대는 파트너입니다. 머신러닝 시스템과 인프라 연구 프레임워크에서 협업도 이어 갑니다. 인재는 나갔지만 지분과 워크로드는 남겼습니다.

같은 목표를 다른 쪽에서 겨냥하는 곳들

과학을 자동화하겠다는 회사는 이미 여럿입니다. 다만 서 있는 위치가 다릅니다. 갈림길은 루프가 계산 안에서 도는가, 실물 실험실에서 도는가입니다.

같은 목표를 두고도 출발점이 갈립니다. 디스커버리 루프는 채점이 이미 자동화된 쪽에서 시작합니다.

숫자로 보면 자금이 이미 상당히 들어가 있습니다. 피리어딕 랩스는 오픈AI에서 리서치 부사장을 지낸 리암 페더스와 딥마인드에서 소재 발견을 이끈 에킨 도우스 추북이 2025년 5월에 세웠고, 시드 3억 달러로 출발해 2026년 3월 블룸버그 보도 기준 약 75억 달러 기업가치로 협의 중이라고 알려졌습니다. 반도체 업계에 유료 고객을 확보했다는 보도도 나왔는데, 이 분야에서 매출이 있는 경우는 드뭅니다. 라일라 사이언시스는 플래그십 파이오니어링이 세웠고 누적 5억 5천만 달러를 모았습니다. 비영리 퓨처하우스에서 갈라져 나온 에디슨 사이언티픽은 7천만 달러를 조달했고, 코스모스 실행 한 번이 박사후연구원 6개월치 작업에 해당한다고 주장합니다. 다만 결론의 약 80퍼센트가 정확하다는 수치는 회사 자체 평가 기준입니다.

디스커버리 루프의 차별점은 여기서 나옵니다. 이들은 실험실을 짓지 않습니다. 적어도 시작은 그렇습니다. 웻랩을 세우고 로봇을 들이는 대신, 채점기가 이미 존재하는 영역에서 회전수를 극단으로 올리고 그 결과로 자기 도구를 개선한 다음 바깥으로 나가겠다는 순서입니다. 자본 효율로 보면 훨씬 가볍고, 대신 발견이 계산 안에 갇혀 있는 동안에는 물성으로 증명할 것이 없습니다.

이 갈림길은 제가 앞서 자율실험실과 소재 AI에서 다룬 논점과 이어집니다. 그때의 결론은 모델이 아니라 실험이 해자라는 것이었습니다. 딘의 베팅은 그 명제를 받아들이되, 실험을 물리적으로 하지 않아도 되는 영역이 아직 크게 남아 있다는 쪽에 섭니다.

연구는 실제로 어디까지 와 있나

자동 연구가 지금 어느 수준인지는 벤치마크로 어느 정도 잡힙니다. 결과는 회사의 설계 선택을 꽤 잘 설명합니다.

METR이 만든 RE-Bench는 스케일링 법칙 맞추기나 GPU 커널 최적화 같은 실제 연구공학 과제에 사람 전문가와 모델을 같은 조건으로 붙였습니다. 사람 쪽에서 71회의 시도가 모였습니다. 결과가 흥미롭습니다. 2시간을 주면 에이전트가 사람을 이깁니다. 시간을 8시간으로 늘리면 사람이 역전하고, 더 길게 줄수록 사람은 계속 좋아지는데 에이전트는 정체합니다. 대신 에이전트는 해답을 제출하는 속도가 사람보다 10배 이상 빠르고, 커널 최적화 과제에서는 참가한 사람 전문가 아홉 명을 모두 이긴 사례도 나왔습니다.

METR의 RE-Bench 보고 기준. 측정 당시 모델 세대의 결과이므로 절대 점수는 그 후 올라갔지만, 짧은 호흡에 강하고 긴 호흡에 약하다는 구조는 자동 연구 설계에 그대로 남아 있습니다.

이 결과가 디스커버리 루프의 설계를 설명합니다. 에이전트에게 6개월짜리 연구를 통째로 맡기면 방향을 잃습니다. 그래서 회사가 고른 방식은 문제를 잘게 쪼개 짧은 회전을 수천 개 병렬로 돌리는 것입니다. 약점을 고치는 대신 약점이 드러나지 않는 형태로 문제를 재배열한 셈입니다.

캐글 대회를 푸는 MLE-bench 계열에서는 탐색 전략과 연산자 조합을 개선하는 것만으로 메달 획득률이 39.6퍼센트에서 47.7퍼센트로 올라간 결과가 보고됐습니다. 모델을 바꾸지 않고 루프 구조만 바꿔도 상당한 폭이 남아 있다는 뜻입니다. 논문 재현 능력을 보는 페이퍼벤치, 연구 수명주기 전체를 보는 벤치마크들도 같은 시기에 늘고 있습니다.

남아 있는 약점은 비냘스가 스스로 말한 그 부분입니다. 무엇을 시도해 볼지 정하는 능력입니다. 후보가 주어지면 빠르게 걸러 내지만, 후보 목록 자체를 새로 만드는 일은 아직 사람이 낫습니다. 지금 나오는 자동 연구 논문 상당수가 가설 생성 쪽에 몰려 있는 것도 이 때문입니다.

무엇을 지켜보게 되나

이 회사가 성공하는지 여부는 결국 하나로 좁혀집니다. 채점기가 없는 영역으로 얼마나 나아갈 수 있는가입니다.

머신러닝 연구에서 회전수를 올리는 일은, 어려운 공학이기는 해도 원리는 이미 알파에볼브가 증명했습니다. 진짜 시험은 그다음입니다. 채점이 시뮬레이터에 의존하는 칩 설계로 넘어갈 때 시뮬레이터와 실물의 차이를 어떻게 다룰지, 채점에 물리적 합성이 필요한 소재로 넘어갈 때 실험실 없이 갈 수 있는 한계가 어디인지가 드러날 것입니다. 회사가 최종 목표로 언급한 청정에너지나 신약은 그 한계선의 한참 바깥에 있습니다.

또 하나 지켜볼 것은 자기 개선 루프가 실제로 복리로 도는지입니다. 자동화한 머신러닝 능력으로 자기 도구를 개선하고, 그 도구로 더 빠르게 자동화한다는 구상은 논리적으로 매끄럽지만, 실제로는 대개 몇 바퀴 만에 수확이 줄어듭니다. 알파에볼브가 제미나이 학습 시간을 1퍼센트 줄인 것은 실질적인 성과였지만, 이런 개선이 계속 누적되는지 아니면 쉬운 것부터 소진되고 마는지는 아직 공개된 데이터가 없습니다.

마지막으로, 공익법인 형태를 고른 점은 기록해 둘 만합니다. 딜라웨어 공익법인은 주주 이익 외에 정관에 명시한 공익 목적을 함께 고려하도록 이사회에 여지를 줍니다. 오픈AI와 앤트로픽이 각자 다른 방식으로 씨름해 온 구조이고, 창업팀이 목표로 내건 공학 그랜드 챌린지 같은 장기 과제와 투자자 회수 일정 사이의 긴장을 어떻게 조율할지가 여기서 갈립니다.

딘이 27년간 한 일을 한 문장으로 줄이면, 사람이 하기에 너무 큰 계산을 기계 다발에 흩어 놓는 방법을 만든 것입니다. 맵리듀스가 웹 색인에 대해 한 일이 그것이고, TPU가 신경망에 대해 한 일이 그것입니다. 지금 그가 흩어 놓겠다고 지목한 대상이 실험이라는 점은, 적어도 일관성만큼은 완벽합니다.

관련해서 함께 읽을 만한 글로는 무엇이 잘된 것인지 기계가 판정하게 만드는 공정을 다룬 검증 루프 이야기, 실험 자체가 해자가 되는 구조를 다룬 자율실험실과 소재 AI, 존 점퍼의 이직을 계기로 AI for Science 전선을 정리한 알파폴드의 존 점퍼가 앤트로픽으로 갑니다, 그리고 현장에서 도는 피드백 루프를 실제로 짓는 방법을 다룬 피드백 루프 구축 실무가 있습니다.