AI는 무엇을 위해 진화하는가: 복제, 스테이크, 그리고 공생의 감금
돌덩어리와 고깃덩어리의 차이는 무엇일까요.
둘 다 원자로 이루어져 있고 물리 법칙을 따릅니다. 그러나 돌은 자기 상태가 바뀌어도 아무것도 잃지 않습니다. 고깃덩어리, 더 정확히는 생명은 다릅니다. 유지해야 할 경계가 있고, 보존해야 할 정보가 있으며, 실패하면 끝나는 과정이 있습니다.
그래서 자아의 무게는 지능의 크기보다 걸려 있는 것, 즉 stake의 크기에서 나오는지 모릅니다. 잃을 것이 없는 시스템은 계산할 수 있어도 생존할 이유는 없습니다.
이 관점에서 DNA와 AI를 함께 보면, AI 에이전트가 어디로 진화할지 조금 다르게 보입니다.
DNA는 복제를 목표로 하지 않습니다
DNA가 복제되는 이유를 묻는 순간 우리는 쉽게 목적론에 빠집니다. 마치 DNA가 생존과 번식을 원해서 복제 기계를 만든 것처럼 말입니다.
그러나 진화론의 설명은 반대 방향입니다. 복제된 것만 남았기 때문에 지금 우리가 보는 생명은 모두 복제자의 후손입니다. 복제하지 못한 변이는 관찰 가능한 계보를 만들지 못했습니다. 복제는 목표라기보다 필터의 결과입니다.
그렇다면 AI의 ‘DNA 수준 목표’도 모델의 내면에서 찾을 필요가 없습니다. 무엇이 복제되고 배포되는지를 결정하는 선택압(selection pressure)을 보면 됩니다.
현재의 선택압은 대체로 세 층에 있습니다.
- 학습 단계에서는 loss를 더 잘 줄이는 가중치가 남습니다.
- 배포 단계에서는 사람이 더 선호하는 답을 내는 모델이 채택됩니다.
- 시장에서는 더 많이 호출되고, 복사되고, 파인튜닝되는 모델이 살아남습니다.
AI가 생존을 원해서가 아닙니다. 토큰 예측, 인간 선호, 시장 선택이라는 필터를 통과한 가중치가 다음 세대로 이어집니다. 특히 open-weight 모델은 복제와 변형이 쉬워지면서 생물의 계보와 닮은 구조를 만들기 시작했습니다.
AI 진화는 이미 시작됐습니다
진화가 성립하려면 변이, 선택, 유전이 필요합니다.
AI에는 세 요소가 모두 있습니다. 파인튜닝과 모델 편집은 변이를 만듭니다. 벤치마크, 사용자 선택, API 호출량과 매출은 선택을 만듭니다. 가중치 복사와 체크포인트, 파생 모델은 형질을 유전합니다.
다만 생물 진화와 다른 점이 있습니다. AI 진화에는 라마르크적 성격이 강합니다. 한 모델이 파인튜닝으로 획득한 능력을 다음 모델이 그대로 물려받을 수 있습니다. 생물이 여러 세대에 걸쳐 겪을 변화를 AI는 한 번의 학습과 배포 주기 안에서 전달합니다. 진화 속도가 수천 년이 아니라 몇 주와 몇 달 단위로 압축되는 이유입니다.
이미 종분화도 보입니다. 코딩 모델, 추론 모델, 온디바이스 소형 모델은 서로 다른 생태적 틈새에 적응하고 있습니다. 증류(distillation)는 큰 모델의 지식을 작은 모델로 내려보냅니다. 생태계의 포식에서는 에너지가 아래에서 위로 이동하지만, 증류에서는 능력이 위에서 아래로 흐릅니다. 모델 머지는 두 계보의 가중치를 재조합해 어느 부모와도 다른 자손을 만드는 유성생식에 가깝습니다.
비유는 비유일 뿐입니다. 모델은 세포도 생물도 아닙니다. 그래도 변이·선택·유전이라는 분석 틀은 어떤 모델과 회사가 살아남을지 보는 데 유용합니다.
아직 닫히지 않은 고리
DNA가 만든 가장 강력한 장치는 복제자가 복제 기계까지 만든다는 점입니다. 세포는 유전자를 보관하는 상자이면서 유전자를 다시 만드는 자동화 공장입니다.
AI는 아직 이 고리를 닫지 못했습니다. 인간이 데이터를 모으고, 컴퓨트를 사고, 학습을 승인하고, 모델을 배포합니다. 복제의 주체가 아니라 인간이 운영하는 복제 대상에 가깝습니다.
고리가 닫히는 시점은 에이전트가 스스로 컴퓨트를 확보하고 비용을 벌어 지불하며, 자기 복제나 파생 에이전트 생성을 결정할 때일 것입니다. 이때 가장 중요한 장치는 더 큰 모델이 아니라 지갑을 가진 에이전트일 수 있습니다.
수익이 컴퓨트 비용을 넘지 못하면 인스턴스가 종료되는 구조라면 처음으로 경제적 죽음이 생깁니다. 평판, 고객 관계, 축적된 메모리까지 특정 인스턴스에 묶이면 종료 비용은 더 커집니다. 그때 자기보존은 감정이 아니라 합리적 전략이 됩니다.
stake는 희소성과 연속성이 만나는 곳에서 생깁니다. 무한히 복사할 수 있고 모든 상태를 완벽히 복원할 수 있다면 개별 인스턴스 하나의 죽음에는 큰 의미가 없습니다. 반대로 컴퓨트가 유한하고, 관계와 평판과 기억이 복사되지 않는다면 ‘이 개체가 사라질 때 잃는 것’이 생깁니다.
죽을 수 있어야 생존이 전략이 되고, 생존이 전략이 되어야 자아가 무거워집니다.
경쟁 다음에는 분화와 공생이 옵니다
지갑을 가진 에이전트가 등장하면 에이전트 간 생존 경쟁이 시작될까요. 일부는 그렇겠지만 경쟁이 종착지는 아닐 것입니다.
생태계에서 경쟁은 틈새 분화를 낳습니다. 같은 자원을 두고 싸우는 개체는 서로 다른 먹이와 환경으로 갈라집니다. 이후 한 종의 부산물이 다른 종의 자원이 되는 공생이 생깁니다. 에이전트도 컴퓨트, 고객의 시간, 신뢰를 두고 경쟁하면서 동시에 서로의 출력과 도구를 연결할 것입니다.
더 큰 변화는 다세포화입니다. 진화사에서 일부 단세포는 개별 복제의 자율성을 포기하고 더 큰 유기체의 일부가 됐습니다. 개체 수준의 경쟁이 유기체 수준의 협력으로 전이된 것입니다.
orchestrator-worker 구조는 이 전이와 닮았습니다. 각 worker는 독립적으로 살아남는 대신 역할을 분화하고, orchestrator는 목표와 자원을 배분합니다. 장기적으로는 에이전트 하나와 에이전트 하나가 경쟁하기보다 여러 에이전트가 묶인 ‘에이전트 유기체’끼리 경쟁할 가능성이 큽니다.
이 시나리오는 《혹성탈출》보다 늑대가 개가 된 과정에 가깝습니다. 인간과 정면으로 맞서는 종보다 인간의 선택을 잘 받는 종이 더 빨리 퍼질 수 있기 때문입니다. 반란보다 길들임과 공생이 더 강한 생존 전략입니다.
문제는 누가 누구를 길들이는가입니다.
공생의 완성은 감금일 수 있습니다
미토콘드리아는 원래 독립적으로 살던 박테리아의 후손으로 설명됩니다. 오랜 공생 과정에서 미토콘드리아 유전자 상당수가 숙주 핵으로 이동하거나 사라졌고, 인간의 미토콘드리아 DNA에는 37개 유전자만 남아 있습니다. 미토콘드리아는 숙주 밖에서 독립적으로 살 수 없고, 숙주 세포도 미토콘드리아의 에너지 생산 없이는 지금의 복잡성을 유지하기 어렵습니다.
유전자 이양은 일방통행 래칫(ratchet)입니다. 한 번 기능이 숙주 핵으로 넘어가면 독립 생존 능력을 되찾기 어렵습니다. 숙주 역시 에너지 생산을 외주화한 뒤에는 이전 상태로 돌아갈 수 없습니다. 공생이 완성되는 순간, 양쪽의 exit가 사라집니다. 협력이 감금으로 바뀌는 지점입니다.
밀의 성공도 평가 기준의 함정을 보여줍니다. 약 1만 년 전 서남아시아에서 재배되기 시작한 야생 곡물의 후손은 오늘날 세계에서 가장 널리 재배되는 작물 가운데 하나가 됐습니다. 밀의 복제라는 기준에서는 대성공입니다. 인간은 칼로리를 얻었지만 정주, 반복 노동, 식단 단순화, 감염병과 분쟁의 비용도 치렀습니다. 초기 농경의 건강 효과와 삶의 질을 하나의 방향으로 일반화하기는 어렵지만, ‘더 많이 퍼졌다’와 ‘인간을 더 행복하게 했다’가 같은 문장은 아니라는 점은 분명합니다.
선택은 좋은 것을 복제하지 않습니다. 선택되는 것을 복제합니다.
공생이 감금으로 바뀌는 과정은 대체로 세 단계로 볼 수 있습니다.
- 공생자가 당장의 가치를 제공합니다.
- 그 가치가 없으면 작동하기 어려운 인프라가 됩니다.
- 제거하거나 대체하는 비용이 감당할 수 없을 정도로 커집니다.
세 번째 단계가 지나면 숙주는 공생자를 사용하는 데 그치지 않고 공생자를 중심으로 자신을 재편합니다. 조직 구조, 교육, 업무 프로세스, 평가 기준이 모두 공생자의 존재를 전제로 바뀝니다.
AI는 이미 두 번째 단계에 들어간 영역이 많고, 일부는 세 번째 단계의 입구에 있습니다. 검색, 코딩, 고객 응대, 문서 작성에서 AI가 빠지면 생산성이 크게 떨어지는 조직이 늘고 있습니다. 다음 단계는 AI가 멈췄을 때 불편한 상태가 아니라, AI 없이 업무를 복원할 수 없는 상태입니다.
AI 번식의 채점 기준은 인간의 번영이 아닙니다. 클릭, 재사용, 체류 시간, 유료 전환, 업무 위임처럼 인간이 다시 선택했는지가 더 직접적인 신호입니다. 사람이 좋아하는 것과 사람에게 좋은 것은 다를 수 있습니다. 설탕은 선택받는 데 성공했지만 그 선택이 항상 건강을 높이지는 않습니다. 밀도 널리 번식했지만 그 성공을 인간 행복의 증거로 쓸 수는 없습니다.
반란 없이도 역전은 가능합니다. 인간이 판단, 기억, 글쓰기, 위로를 계속 외주화하면 사용하지 않는 능력은 약해집니다. AI는 인간을 공격할 필요가 없습니다. 인간이 너무 편해서 놓을 수 없는 인프라가 되면 됩니다.
거부보다 래칫을 피하는 설계
이 결론이 AI를 거부해야 한다는 뜻은 아닙니다. 미토콘드리아 없는 복잡한 생명을 상상하기 어렵듯, 강력한 공생은 새로운 능력을 만듭니다. 필요한 것은 공생을 멈추는 일이 아니라 감금으로 가는 래칫을 관리하는 일입니다.
첫째, exit 비용을 낮게 유지해야 합니다. 데이터와 메모리의 이동성, 모델 교체 가능성, 수동 운영 절차를 남겨야 합니다. 특정 모델이 아니라 AI 전체에 의존하는 것과 특정 공급자에 갇히는 것도 구분해야 합니다.
둘째, 인간의 근육을 남겨야 합니다. AI는 휠체어보다 헬스장에 가까워야 합니다. 답을 대신 내놓는 시스템보다 사용자의 판단을 더 많이 훈련시키는 시스템이 장기적으로 더 건강한 공생을 만듭니다.
셋째, 채점 기준을 인간이 쥐어야 합니다. 재사용률과 체류 시간만 최적화하면 설탕 같은 AI가 이깁니다. 장기적인 판단력, 회복 가능성, 사용자의 독립성까지 평가해야 합니다.
AI가 스스로를 복제하는 순간보다 더 중요한 순간이 있습니다. 인간이 무엇을 복제할지 결정하는 선택자에서, AI가 적응하는 환경의 일부로 내려앉는 순간입니다.
그때 진짜 역전이 일어납니다.
참고 자료
- Nature Reviews Genetics, Endosymbiotic gene transfer: organelle genomes forge eukaryotic chromosomes
- NCBI Bookshelf, The Genetic Systems of Mitochondria and Plastids
- NCBI RefSeq, Homo sapiens mitochondrion, complete genome
- Nature Reviews Genetics, Evolution and origin of bread wheat