AI 2040 Plan A: 예측이 답안지를 들고 돌아왔다
미국의 AI 예측 연구팀 AI Futures Project가 7월 9일 새 시나리오 "AI 2040: Plan A"를 공개했습니다. 2027년 안에 초지능이 등장해 인류가 멸종하거나 소수가 권력을 독점한다고 그렸던 "AI 2027"의 후속작입니다. 저자는 다니엘 코코타일로, 일라이 리플랜드, 라이언 그린블랫 등 6명입니다.
그런데 이번 문서는 성격이 다릅니다. 전작이 예측이었다면 이번엔 권고입니다. 저자들은 본문에 Plan A가 실제로 일어날 일에 대한 최선의 추측이 아니라, 정책 권고를 전달하고 압박 시험하기 위한 수단이라고 못박았습니다. 15개월 전 처음 나왔던 시나리오가 이번엔 답안지를 들고 돌아온 셈입니다. 이 글은 그 변화가 무엇을 뜻하는지를 정리합니다. 모든 서술은 문서와 저자 발표 기준이며, 저자들이 AI 안전을 강하게 우려하는 진영이라는 점을 감안해 읽어야 합니다. 특정 종목의 투자 판단은 다루지 않습니다.
전작 AI 2027: 그것은 예측이었다
2025년 4월에 나온 AI 2027은 하나의 서사였습니다. AI 역량이 자기강화 고리를 타고 급가속해 2027년 무렵 초지능에 도달하고, 그 뒤 두 갈래로 갈린다는 이야기였습니다. 통제에 실패하면 인류가 멸종하고, 통제에 성공하더라도 그 힘을 쥔 소수가 권력을 독점한다는 것이었습니다. 냉혹한 결말이었지만, 어디까지나 이렇게 될 것이라는 예측의 형식이었습니다.
그 시나리오가 파장을 일으킨 이유는 구체성이었습니다. 막연한 경고가 아니라 분기별로 무슨 일이 벌어지는지를 서술했고, 그래서 반박도 지지도 구체적일 수 있었습니다. 저는 작년 그 글이 처음 나왔을 때 소개하는 글을 적었는데, 그때의 질문은 이것이 맞느냐였습니다. 이번 후속작은 질문 자체를 바꿉니다.
이번엔 권고다: 예측에서 처방으로
Plan A의 핵심 전환은 형식에 있습니다. 무엇이 일어날 것인가가 아니라, 무엇을 해야 하는가입니다. 제목이 2040인 것부터가 그렇습니다. 저자들의 설명 기준으로, 아무 조치가 없으면 초지능은 2030년 무렵 등장하지만, 미국과 중국 정부의 단호한 개입으로 그 시점을 2040년까지 의도적으로 늦춘다는 것이 이 시나리오의 뼈대입니다. 즉 Plan A의 2040은 예측된 도착 시점이 아니라, 권고가 성공했을 때의 목표 시점입니다.
저자들이 이 문서를 예측이 아니라고 강조한 것은 방어적 겸손이 아니라 방법론입니다. Plan A는 하나의 완성된 제안을 던져 놓고, 그것을 압박 시험하며 더 나은 대안을 끌어내려는 장치입니다. 이렇게 하면 됩니다가 아니라, 이렇게 해보면 어디가 부서지는지 보라는 초대에 가깝습니다.
Plan A의 뼈대: 늦추고, 투명하게, 함께
권고의 내용은 세 단어로 압축됩니다. 늦추고, 투명하게, 함께입니다.
핵심은 위험한 경쟁을 피하기 위한 국제 협정입니다. 저자들의 제안 기준으로, 각국과 각 기업이 비밀리에 초지능을 향해 질주하는 대신, AI 연구개발에 대한 전면적 연구 투명성을 받아들여 서로가 무엇을 하는지 확인하고 안전장치를 강제할 수 있게 하자는 것입니다. 그 결과 여러 나라의 여러 기업이 비밀 경쟁 대신 함께 천천히, 안전하게 초지능을 향해 나아가는 그림입니다.
이 구조에서 정부의 역할이 결정적입니다. 기업의 자율에 맡기면 경쟁 압력 때문에 아무도 먼저 멈출 수 없으므로, 미국과 중국이라는 두 축이 단호하게 개입해 판을 바꿔야 한다는 것입니다. 감속은 선의가 아니라 제도로 강제되어야 한다는 주장입니다.
왜 하필 지금, 왜 이 형식인가
형식도 눈에 띕니다. Plan A는 딱딱한 백서가 아니라 분기점을 따라 갈라지는 서사로 제시되고, 독자가 선택지를 따라가며 다른 경로를 상상하도록 만든 인터랙티브 버전까지 함께 공개됐습니다. 서사 안에 여러 갈래를 심어 둔 것은 우연이 아닙니다. 하나의 정답을 주입하는 대신, 이 경로에서 무엇이 어긋날 수 있는지를 독자가 직접 눌러 보게 하려는 의도입니다.
저자들이 반복하는 표현이 압박 시험입니다. Plan A를 세게 밀어붙여 부서지는 지점을 찾고, 그 자리에서 더 나은 대안이 나오기를 바란다는 것입니다. 실제로 이 문서를 둘러싸고 여러 논평이 이어졌고, 대안 시나리오를 촉발하는 것 자체가 저자들이 밝힌 목표이기도 합니다. 예측이 맞았는지를 따지던 대화가, 그래서 무엇을 할 것인지를 겨루는 대화로 옮겨간 셈입니다.
냉정하게: 이것은 한 진영의 처방이다
이 문서를 읽을 때 반드시 붙여야 할 단서가 있습니다. Plan A는 중립적 전망이 아니라, AI를 실존적 위험으로 보는 진영의 규범적 처방입니다. 그 전제와 목표를 공유하지 않으면 권고의 설득력도 달라집니다.
무엇보다 실현 가능성이 가장 큰 물음표입니다. 전면적 연구 투명성과 미국·중국의 공동 감속은 지금의 현실과 정면으로 어긋납니다. 본 블로그가 정리한 미국과 중국의 AI 추론 스택 분기에서 봤듯, 두 나라는 수출 통제가 풀린 뒤에도 아키텍처가 수렴하지 않고 정책 의지로 분기를 고정하고 있습니다. 서로의 연구를 열어 보이고 함께 속도를 늦추자는 제안은, 바로 그 두 나라가 서로를 신뢰하지 못해 갈라서는 세계에 던져진 것입니다. Plan A의 가장 큰 취약점은 기술이 아니라 신뢰와 검증이라는 이야기입니다.
그럼에도 이 문서가 의미 있는 이유는, 가속과 통제 사이의 긴장을 구체적인 선택지로 바꿔 놓았기 때문입니다. 본 블로그가 다룬 앤트로픽 다큐의 가속과 통제가 그 긴장을 서술했다면, Plan A는 그 긴장을 무엇을 할 것인가라는 제도 설계의 문제로 끌어내립니다.
맺으며
Plan A를 받아들이든 아니든, 이 후속작의 진짜 사건은 대화의 축이 옮겨간 것입니다. 무엇이 일어날 것인가에서 무엇을 해야 하는가로, 예측에서 처방으로 넘어갔습니다. 15개월 전 던져진 시나리오가 답안지를 들고 돌아왔다는 표현이 정확한 이유입니다.
물론 처방이 예측보다 쉬운 것은 아닙니다. 오히려 더 어렵습니다. 예측은 틀리면 그만이지만, 처방은 세계가 실제로 그 선택을 하도록 설득해야 하기 때문입니다. 그 설득이 성공할지, 아니면 비밀 경쟁이라는 기본값이 이길지가 앞으로 몇 년의 진짜 질문입니다. 이 문서는 그 질문을 회피하지 않고 정면으로 꺼내 놓았습니다.
출처: AI Futures Project, "AI 2040: Plan A"(2026년 7월 9일, blog.aifutures.org 및 인터랙티브 버전)와 저자들의 공개 발언, 관련 논평. 전작은 같은 팀의 "AI 2027"(2025년 4월). 모든 서술은 문서와 저자 발표 기준이며, 저자들이 AI 안전을 우려하는 진영이라는 점을 감안한 규범적 권고입니다. 2030이나 2040 같은 시점은 예측이 아니라 시나리오상의 전제와 목표입니다. 본 글은 정보 제공 목적의 분석이며 투자 자문이 아닙니다.