AI로 AI를 만드는 시대, 후발 LLM의 승부는 학습의 경제성입니다

경쟁사의 가장 뛰어난 AI를 연구원으로 쓰면, 그 경쟁사를 따라잡을 수 있을까요.

업스테이지 같은 후발 대규모 언어모델(LLM) 개발사에 이 질문은 모순처럼 보이지만, 기술적으로는 충분히 의미가 있습니다. 더 강한 모델이 학습 코드를 고치고, 실험을 설계하고, 학습 사례를 만드는 데 도움을 줄 수 있기 때문입니다. 실제로 Google은 Gemini 기반 에이전트 AlphaEvolve를 Gemini 자체의 학습 효율 개선에 활용했다고 발표했습니다.[1]

하지만 내 개발 속도가 빨라지는 것과 경쟁사와의 격차가 줄어드는 것은 다른 문제입니다. 선두도 같은 일을 더 강한 내부 모델과 더 많은 실험 자원으로 하고 있다면, 후발사는 빨라지면서 동시에 뒤처질 수 있습니다.

따라서 후발사의 전략을 “추론을 줄이고 훈련을 늘리자”로 압축해서는 안 됩니다. 추가 자원을 어디에 투입해야 검증된 개선이 나오며, 그 개선을 회사가 통제하는 자산과 고객의 지불 의사로 바꿀 수 있는지를 물어야 합니다.

공개된 기술 자료·기업 발표·약관과 이를 바탕으로 한 필자의 해석입니다. 업스테이지의 비공개 개발 현황, 개별 계약, 실제 연구비·수익성은 확인한 것이 아닙니다. 특정 기업에 대한 투자 권유나 법률 자문은 다루지 않습니다.

연구를 돕는 AI와 스스로 격차를 벌리는 AI는 다릅니다

2026년 8월 25일 공개된 드와케시 파텔과 딜런 파텔의 대담에서 딜런은 선두 연구소들이 고객 매출을 만드는 추론보다 내부 연구개발에 더 많은 연산을 배분할 것이라는 견해를 제시했습니다. 좋은 AI를 밖에 팔아서 얻는 수익보다, 그 AI로 다음 세대 모델을 개발해서 얻는 장기 가치가 더 클 수 있다는 논리입니다.[2]

이 논리의 설득력과 실증 수준은 분리해야 합니다. “AI가 연구를 돕는다”, “선두가 더 빠르게 발전할 수 있다”, “격차가 계속 확대된다”는 각각 다른 주장입니다. 앞의 가능성만으로 뒤의 결과가 확정되지는 않습니다.

Google의 AlphaEvolve 사례는 이 구분을 잘 보여줍니다. 회사 발표에 따르면 특정 행렬 연산 코드의 속도를 23% 높여 Gemini 전체 학습 시간을 1% 줄였습니다. AI가 AI 개발에 기여한 구체적 사례지만, 일부 코드의 개선율을 전체 연구 생산성의 개선율로 확대해서는 안 됩니다.[1]

OpenAI가 9월 8일 공개한 나비에–스토크스 문제 관련 발표도 마찬가지입니다. 회사는 당시 훈련 중인 내부 모델과 약 1만 개의 동시 실행 에이전트가 참여한 집단을 사용했다고 설명했습니다. 여기서 인용하는 것은 연구 방식에 관한 회사 발표입니다. 수학적 결론의 독립적인 최종 인정 여부나, 같은 방식의 성과가 모든 연구 과제에서 반복된다는 뜻은 아닙니다.[3]

후발사에 중요한 질문은 “저런 연구가 가능한가”에서 끝나지 않습니다. 외부에서 구할 수 있는 모델, 허용된 사용 범위, 실험 예산으로 어느 부분까지 재현할 수 있는가가 더 직접적인 경영 질문입니다.

외부 AI가 가속하는 것은 코드, 학습 사례, 검증 체계입니다

외부 AI의 활용을 다른 모델의 답변을 모아 학습시키는 방식으로만 이해하면 범위를 너무 좁게 잡게 됩니다. 다음은 기술적으로 가능한 활용을 나눈 것이며, 개별 서비스의 계약상 허용 여부는 별도입니다.

활용	외부 AI에 맡길 수 있는 일	개발사에 남아야 할 자산
연구개발 보조	학습 코드 작성, 오류 분석, 연산 최적화, 실험 결과 비교	재현 가능한 코드와 실험 기록
학습 사례 생성	문제·답안·도구 사용 과정·오류 수정 사례 생성	사용 권한과 검증 이력을 갖춘 학습 데이터
평가환경 구축	업무 과제, 예외 상황, 채점 코드, 실패 유형 작성	고객 업무에 맞는 정답 기준과 독립 평가체계

첫 번째 활용의 성과는 AI가 작성한 코드량보다 검증된 개선 하나를 모델에 반영하기까지 걸린 시간으로 측정해야 합니다.

예를 들어 전체 개발 시간의 40%를 차지하는 작업만 AI로 5배 빨라지고 나머지는 그대로라고 가정하겠습니다. 작업이 순차적으로 진행되고 다른 병목은 변하지 않는 단순한 경우, 전체 속도는 다음과 같습니다.

전체 속도 향상 = 1 ÷ (0.60 + 0.40 ÷ 5) ≈ 1.47배

특정 작업은 5배 빨라졌지만 전체는 약 1.47배입니다. 이는 회사 실측치가 아닌 설명용 계산이며 소수점 둘째 자리로 반올림했습니다. 코딩 병목을 해소한 뒤에는 GPU 대기, 데이터 확보, 실험 검증이 새로운 병목이 될 수 있다는 의미입니다.

학습 사례 생성에서도 생성량보다 선별이 중요합니다. 자사 모델이 실패하는 문제를 수집하고, 강한 모델로 해결 사례를 만든 뒤, 정답과 실행 결과를 독립적으로 확인해야 합니다. 모델이 만든 그럴듯한 답안을 다시 같은 계열의 모델만으로 채점하면 실제 개선과 공유된 오류를 구분하기 어렵습니다.

평가환경은 특히 중요한 자산 후보입니다. “보험 문서를 잘 처리한다”는 목표를 “지급액과 약관 한도를 대조하고, 불일치를 표시하며, 판단에 원문 근거를 붙인다”는 재현 가능한 과제로 바꾸는 일입니다. AI는 과제와 채점 코드 작성을 도울 수 있지만, 어떤 오류가 치명적인지는 업무를 아는 개발사와 고객이 정해야 합니다.

생산성은 좋아져도 상대적 지위는 나빠질 수 있습니다

후발사의 연구 생산성이 2배 높아지는 동안 선두가 4배 높아진다고 가정하면, 후발사의 절대 생산성과 상대적 경쟁력은 반대 방향으로 움직입니다. 실제 개선 배수에 관한 주장이 아니라, 두 판단을 구분하기 위한 예입니다.

차이를 만드는 것은 모델 성능만이 아닙니다. 내부 실험 기록, 실패한 접근법, 학습 중간 결과에 대한 접근성도 중요합니다. AI가 제안한 실험을 실행할 GPU와 검증 인력이 부족하면 연구자의 아이디어 생산만 빨라질 수 있습니다.

개선의 적용 범위도 다릅니다. 같은 1% 원가 절감이라도 적용할 고객 처리량이 크면 회수할 수 있는 금액이 커집니다. 선두의 연구비 지출이 합리적이라고 해서 후발사에 같은 금액이나 같은 배분 비율이 합리적인 것은 아닙니다.

그렇다고 모든 격차가 벌어진다고 단정할 이유도 없습니다. 공개 연구와 공개 가중치 모델은 알려진 기술의 확산을 촉진할 수 있습니다. 선두가 집중하지 않는 언어, 문서 형식, 배포 조건에서는 다른 경쟁 기준이 작동할 수도 있습니다.

따라서 범용 연구 능력의 격차 확대와 특정 업무에서 후발사의 상용 경쟁력 확보는 동시에 가능한 시나리오입니다. 어느 쪽인지는 일반 평가 순위만으로 알 수 없습니다.

접속 권한과 경쟁 모델 개발 권한은 다릅니다

기술적 가능성을 곧바로 사업 계획에 넣기 전에 계약을 확인해야 합니다.

2026년 9월 12일 확인한 OpenAI Services Agreement의 3.3(e)는 허용된 예외를 제외하고 출력물을 OpenAI와 경쟁하는 AI 모델 개발에 사용하는 것을 제한합니다. Anthropic Commercial Terms의 D.4(a)는 명시적으로 승인된 경우를 제외하고 경쟁 제품·서비스를 만들기 위한 접근을 제한하며, 경쟁 AI 모델 훈련을 그 예에 포함합니다.[4][5]

따라서 “답변을 직접 학습시키지만 않으면 연구용 코드 작성은 언제나 허용된다”고 일반화해서는 안 됩니다. 구체적인 행위, 적용되는 상품 약관, 예외, 별도 계약을 함께 확인해야 합니다. 이것이 모든 외부 AI 활용을 금지한다는 뜻도 아닙니다.

후발사는 활용 범위에 대한 명시적 허용을 확보하거나, 해당 활용을 허용하는 공개 가중치 모델을 선택할 수 있습니다. 공개 가중치라는 이유만으로 이용 조건이 동일하다고 보아서도 안 됩니다.

경쟁사가 통제하는 도구를 핵심 연구 설비로 사용할 때에는 접근이 중단되어도 무엇이 남는지가 중요합니다. 자체 학습 데이터와 권리, 실험 기록, 평가환경, 개선된 모델을 확보하고 있는지의 문제입니다. 업스테이지의 실제 외부 모델 사용 여부와 개별 계약 조건은 공개자료만으로 확인하지 못했습니다.

훈련의 반대말을 추론으로 놓으면 자원 배분을 잘못 읽습니다

딜런 파텔의 발언은 연산의 물리적 방식보다 경제적 목적에 가깝게 읽어야 합니다. 그는 고객 매출을 만드는 추론과 연구개발에 쓰이는 연산을 대비했습니다.[2]

연산의 목적	실제 작업	경제적 역할
고객용 추론	질문에 답하고 고객 업무 수행	현재 서비스와 매출
연구용 추론	실험 설계, 코드 작성, 결과 분석	연구개발
학습용 생성·평가	학습 사례 생성, 시행착오 실행, 채점	연구개발
모델 가중치 업데이트	사전학습과 후속 학습	연구개발

연구용 코드 작성과 학습 사례 생성도 연산 방식으로는 추론을 사용합니다. 후발사가 외부 모델에 비용을 내고 학습 사례를 만들면, 같은 거래가 공급자에게는 추론 매출이고 후발사에는 연구개발비입니다. 산업 전체를 합산할 때 같은 연산을 두 번 세어서는 안 됩니다.

그러므로 연구개발 비중 증가는 추론 연산 감소나 대규모 사전학습만의 증가를 의미하지 않습니다. 고객용 추론의 비중이 낮아져도 전체 연산 규모가 충분히 커지면 고객용 추론의 절대량은 늘어날 수 있습니다.

대담에서 제시한 매출 증가세와 연산 도입 추이 역시 회사별 실제 자원 배분표를 대신하지 못합니다. 가격, 할인, 가동률, 고객 구성, 모델당 처리 비용이 달라져도 비슷한 현상이 나타날 수 있습니다. 방향성에 관한 산업 해석을 감사된 배분 수치처럼 사용해서는 안 됩니다.

업스테이지에는 업무학습의 경제성을 증명할 재료가 있습니다

업스테이지의 공개 자료에는 단순한 모델 규모 확대 외의 접근이 나옵니다.

Solar Open 2 기술보고서 초록은 기존 모델에서 일부 구조와 가중치를 이전하고, 데이터의 품질·희소성과 혼합 비율을 조정하며, 12개 영역별 전문 모델을 학습한 뒤 하나로 통합하는 방식을 설명합니다. 최초 제출은 2026년 7월 22일이며, 여기서는 7월 24일 수정본의 공개 초록을 근거로 삼았습니다. 제한된 연산 예산에서 출발점과 데이터의 가치를 높이려는 개발진의 설계입니다.[6]

Solar Pro 4 소개에서는 OfficeVerse가 실제 공개 데이터를 바탕으로 11개 산업과 12개 업무 유형의 과제를 합성하고, 최종 결과물의 성공 여부를 평가한다고 설명합니다.[7]

이것은 업무 중심 학습을 구현했다는 회사 설명입니다. 외부 프런티어 모델을 사용했다는 증거도, 모든 고객 환경에서 경제적 우위를 확보했다는 독립 검증도 아닙니다.

필자가 주목하는 자산은 환경의 이름보다 고객이 실제로 비용을 지불하는 오류를 재현하고, 그 오류를 낮추는 능력이 반복해서 축적되는가입니다.

외부 모델이 출시될 때마다 답변을 모아 자사 모델의 점수를 조금 올리는 데 그친다면 공급자 의존은 남습니다. 반대로 실제 고객의 실패가 학습 가능한 과제로 바뀌고, 새로운 고객에서도 개선이 반복된다면 강한 외부 AI가 등장할수록 이 체계를 더 효율적으로 운영할 여지가 있습니다.

다만 특정 업무에 집중한다고 지속적인 우위가 보장되지는 않습니다. 범용 모델이 같은 업무를 충분히 싸고 정확하게 처리하기 시작하면 차별화는 사라질 수 있습니다. 따라서 비교 대상에는 항상 강한 외부 모델에 동일한 도구와 업무환경을 붙인 대안이 포함되어야 합니다.

추가 훈련 예산은 개선을 회수할 수 있을 때 정당화됩니다

후발사가 먼저 늘릴 후보는 검증 가능한 연구 자동화, 실제 실패를 줄이는 후속 학습, 업무별 평가환경입니다. 고객용 추론의 효율 개선 역시 같은 품질을 더 낮은 비용으로 제공할 수 있다면 중요한 연구 과제입니다.

이것이 사전학습을 하지 말라는 뜻은 아닙니다. 기초 능력, 모델 구조, 긴 문서 처리, 운영 원가의 병목을 후속 학습으로 해결할 수 없다면 사전학습과 구조 연구가 필요합니다. 작은 실험의 개선이 실제 규모에서도 이어지는지 확인한 뒤 예산을 확대하는 것이 타당합니다.

고객 서비스의 품질과 수익성 있는 수요를 희생하면서 경쟁사의 훈련 비율을 복제할 근거는 없습니다. 자원 배분은 각 과제의 성공확률, 개선 효과의 지속 기간, 회수 가능한 이익, 다른 용도의 기회비용을 비교해야 합니다.

가령 특정 후속 학습에 3억 원을 쓰면 업무 처리 비용을 건당 20원 줄일 수 있고, 적용할 업무가 연간 2,000만 건이라고 가정하겠습니다. 모든 업무에서 절감이 실현되고 물량이 연중 균등하다는 설명용 사례입니다. 업스테이지의 수치가 아닙니다.

연간 절감액 = 20원/건 × 2,000만 건/년 = 4억 원/년

단순 회수 기간 = 3억 원 ÷ 4억 원/년 = 0.75년 = 9개월

개선 효과의 유효기간	누적 절감액	연구비 3억 원 차감 후
6개월	2억 원	−1억 원
9개월	3억 원	0원
12개월	4억 원	+1억 원

외부 대체 모델의 발전 등으로 개선의 경제적 유효기간이 6개월이라면 비용을 회수하지 못합니다. 위 계산은 연구 성공을 전제로 하며 할인율, 추가 운영비, 신규 매출 효과는 제외했습니다. 현실에서는 이 요인들을 함께 반영해야 합니다.

고객에게 중요한 원가도 토큰당 가격만이 아닙니다. 모델과 도구 비용에 재시도, 사람 검수, 오류 처리 비용을 더한 뒤 품질 기준을 충족한 완료 업무 수로 나누어야 합니다. 싼 토큰이 많은 재작업을 유발하면 비싼 서비스가 될 수 있습니다.

좋은 모델을 만드는 속도와 그 개선을 판매해 회수하는 속도를 함께 봐야 합니다.

VC가 요구할 증거는 GPU 수보다 개선의 축적입니다

후발 LLM 개발사를 평가할 때 외부 AI 활용 자체를 약점이나 강점으로 단정할 필요는 없습니다. 누구나 접근할 수 있는 도구를 쓰는 생산성 향상과 해당 회사에만 축적되는 경쟁력을 분리하면 됩니다.

경영진에게 물을 질문	확인할 증거
외부 AI가 개발을 실제로 얼마나 가속했습니까?	비슷한 과제와 자원 조건에서 검증된 개선까지의 기간·총비용
자체 모델이 외부 모델 활용보다 어떤 차이를 만듭니까?	같은 도구·문서·품질 기준에서 업무 완료율과 전체 비용 비교
연구비가 고객 성과로 이어집니까?	사람 검수 시간, 재시도, 처리 비용, 재계약과 이익 변화
외부 공급자의 접근 제한에도 개발을 이어갈 수 있습니까?	사용 권한, 대체 모델, 자체 데이터·평가·실험 자산
개선이 특정 시험에만 맞춰진 것은 아닙니까?	학습에 쓰지 않은 고객·문서·업무에서의 독립 검증

자체 모델이 외부 모델에 같은 환경을 붙인 대안보다 지속적으로 나은 결과를 만들지 못한다면, 좋은 업무 솔루션 회사일 수는 있어도 대규모 독자 모델 개발비를 계속 투입할 근거는 약해집니다.

반대로 공개 모델의 확산이 선두와의 격차를 줄이고, 고객 데이터의 사용 권한과 평가체계를 가진 후발사가 개선을 빠르게 회수한다면 후발사에 유리한 시나리오가 열릴 수 있습니다. 선두의 자기강화가 언제나 시장 집중으로 귀결된다고 단정할 수 없는 이유입니다.

업스테이지 같은 회사의 다음 경쟁력은 “우리도 AI로 개발한다”는 선언에서 나오지 않습니다. 빌려온 지능으로 만든 개선이 자사 모델, 데이터 권리, 고객 성과와 이익으로 남는지에서 나옵니다.

추가 훈련 예산을 정당화할 증거도 여기에 있습니다. 선두가 훈련을 늘린다는 사실이 아니라, 그 회사가 통제하는 자산이 늘고, 고객 업무의 경제성이 좋아지며, 다음 기술 변화가 오기 전에 연구비를 회수할 수 있다는 증거입니다.

---

출처와 확인 범위

1. Google DeepMind, AlphaEvolve 발표, 2025년 5월 14일. 특정 연산 23% 개선·전체 학습 시간 1% 감소는 회사 발표 수치입니다.
2. Dwarkesh Podcast, Dylan Patel 대담, 2026년 8월 25일. 내부 연구개발 배분에 관한 견해를 인용했으며 회사별 감사된 연산 배분으로 취급하지 않았습니다.
3. OpenAI, 나비에–스토크스 문제 관련 발표, 2026년 9월 8일. 내부 모델과 에이전트 운영 방식에 관한 회사 설명만 인용했습니다.
4. OpenAI Services Agreement, 2026년 9월 12일 확인. 3.3(e)의 경쟁 모델 개발 제한과 예외 적용 여부는 개별 계약 검토가 필요합니다.
5. Anthropic Commercial Terms, 2026년 9월 12일 확인. D.4(a)의 경쟁 제품·서비스 개발 관련 제한입니다.
6. Solar Open 2 Technical Report, v2, 최초 제출 2026년 7월 22일, 수정 7월 24일. 공개 초록에서 확인한 개발진의 설계 설명을 사용했습니다.
7. Upstage, Solar Pro 4 소개, 2026년 9월 12일 확인. OfficeVerse의 산업·업무 범위와 평가 방식은 회사 설명이며 독립적인 고객 성과 검증과 구분했습니다.

도식은 필자의 개념화이며 개발 속도·연구비 계산은 명시된 가정을 적용한 설명용 예시입니다. 회사의 실제 자원 배분이나 수익성을 추정한 자료가 아닙니다.