에이전트 도입의 병목은 모델 성능이 아니라 검증과 책임입니다
AI 에이전트의 실전 도입을 가르는 기준은 이제 답변의 영리함보다 결과를 확인할 수 있는가, 잘못되었을 때 되돌릴 수 있는가, 최종 책임을 누가 지는가에 가까워지고 있습니다.
골드만삭스가 8월 18일부터 19일까지 AI 기업, 벤처캐피털, 스탠퍼드·UC버클리·UCSF 연구진과 진행한 세 번째 연례 실리콘밸리 AI 필드트립은 이 변화를 여러 산업에서 동시에 포착했습니다. 모델 성능은 계속 높아지고 있지만 기업이 돈을 지불하는 대상은 모델의 답변에서 실제 업무의 완료로 이동하고 있습니다. 수익모델도 계정 수에 비례하는 좌석 기반 과금에서 사용량·거래·성과 기반으로 넓어지고 있습니다.
현장에서 확인된 가장 강한 기업은 단순히 좋은 모델이나 많은 데이터를 가진 회사가 아니었습니다. 신선한 독점 데이터, 도메인 전문성, 고객의 업무 맥락, 워크플로우 소유권, 유통망, 검증 능력, 실행 권한을 한 시스템 안에 결합한 회사였습니다. 이 조합은 프런티어 모델과 오픈모델 중 누가 이길 것인가라는 논쟁도 다른 질문으로 바꿉니다. 기업은 하나의 모델을 선택하는 것이 아니라 업무의 가치와 위험, 검증 가능성에 따라 여러 모델을 배치하게 됩니다.
검증 가능한 업무부터 에이전트에게 넘어갑니다
에이전트의 오류율이 0이 될 때까지 기다릴 필요는 없습니다. 업무마다 오류를 발견하고 복구하는 비용이 다르기 때문입니다.
송장 처리에서는 합계, 세금, 계좌번호, 발주서 일치 여부를 규칙으로 확인할 수 있습니다. 재무모델 업데이트는 원문 공시와 셀의 수치를 연결해 출처를 추적할 수 있습니다. 보험 심사는 입력 문서, 적용 규칙, 위험 점수, 승인 근거를 감사 기록으로 남길 수 있습니다. 반면 기업 인수, 의료 처방, 복잡한 소송 전략처럼 결과의 정답이 늦게 드러나고 실패 비용이 큰 업무는 같은 모델 성능이라도 자율 실행 범위를 좁혀야 합니다.
따라서 에이전트 도입의 우선순위는 “사람이 오래 하는 일”만으로 정해지지 않습니다. 결과가 구조화되어 있고, 중간 상태를 관찰할 수 있으며, 실패를 일찍 감지하고, 원상 복구할 수 있는 일이 먼저 자동화됩니다. 스탠퍼드 연구진이 파일럿과 실제 배치 사이의 간극을 기술보다 책임소재의 문제로 본 이유도 여기에 있습니다.
Daloopa·Harvey·Moody’s는 검증 계층을 제품으로 만들었습니다
Daloopa는 재무제표 데이터를 추출하고 표준화하는 기능만 제공하지 않습니다. 필드트립 설명 기준으로 약 400명의 검증팀을 운영하며, 출처가 확인된 데이터를 지식그래프 기반의 리서치 메모리와 연결합니다. 통합 워크플로우에 들어간 뒤 고객의 데이터 소비량은 약 100배 늘었습니다. 자동 추출의 편리함보다 재무모델의 각 숫자를 원문까지 추적할 수 있다는 신뢰가 더 많은 사용을 만든 셈입니다.
Harvey도 같은 방향을 법률 업무에서 구현합니다. 회사는 1,200개의 법률 과제로 모델을 평가하고, 과제에 맞춰 여러 모델을 조합합니다. 주주보고 모니터링 에이전트는 기존 60시간의 조사 업무를 몇 분으로 줄였고, 240명 이상의 변호사가 제품과 평가에 참여합니다. 법률 AI의 해자는 법률 문서를 많이 읽은 모델만이 아니라 어떤 모델을 어떤 과제에 쓸지 판단하는 평가 체계와 전문가 검증망에 있습니다.
Moody’s의 Intelligent Risk Platform은 비정형 보험 심사자료를 몇 시간 또는 며칠 걸리던 형식에서 몇 초 안에 검토 가능한 정보로 바꿉니다. 신용·고객확인(KYC)·공급망·기후·사이버·보험 데이터를 연결하고, 수십 년간 축적한 신용·클레임·기후·기업 정보를 검증된 위험모델과 결합합니다. 정적 보고서를 판매하던 정보회사가 지속적인 의사결정 흐름에 들어가면, 데이터는 읽는 자료가 아니라 행동을 허용하거나 막는 통제 계층이 됩니다.
세 회사의 공통점은 AI가 생성한 결과에 근거, 평가, 전문가 책임을 붙였다는 것입니다. 모델이 더 좋아질수록 이 계층이 사라지는 것이 아니라, 더 많은 실행을 안전하게 허용하기 때문에 오히려 처리량과 매출의 기반이 됩니다.
프런티어 모델과 오픈모델은 서로 다른 위험을 맡습니다
오픈모델이 프런티어 모델을 대체할 것인지, 프런티어 모델의 성능 우위가 모든 수요를 가져갈 것인지는 기업의 실제 구매 방식을 충분히 설명하지 못합니다. 기업은 모델 이름보다 성공한 업무 한 건의 비용과 실패 위험을 함께 봅니다.
반복적이고 범위가 좁으며 규칙 검증이 가능한 작업은 저렴한 오픈모델이 큰 토큰 물량을 담당하기 좋습니다. 복잡한 추론, 긴 문맥, 드문 예외, 높은 정확도 프리미엄이 필요한 작업에는 프런티어 모델의 높은 가격이 정당화될 수 있습니다. 같은 워크플로우 안에서도 문서 분류는 소형 오픈모델, 복잡한 판단은 프런티어 모델, 최종 수치 확인은 결정론적 코드가 맡는 구성이 자연스럽습니다.
필드트립에서는 향후 5년간 엔터프라이즈 토큰 수요가 24배 늘어날 것으로 예상했습니다. 단위 토큰 가격이 내려가더라도 자동화되는 업무의 범위와 실행 횟수가 더 빠르게 커지면 전체 컴퓨트 수요는 증가합니다. 오픈모델은 일상 업무의 물량을 넓히고, 프런티어 모델은 높은 가치와 신뢰성 프리미엄이 있는 영역을 확장합니다. 효율화와 총수요 증가는 동시에 일어날 수 있습니다.
이 구조에서 모델 선택은 제품 기능이 아니라 운영정책이 됩니다. 업무별 허용 비용, 지연시간, 개인정보 요구, 정확도 임계값, 실패 영향에 따라 모델을 바꾸고, 결과를 다시 평가해 더 비싼 모델이나 사람에게 넘기는 라우터가 필요합니다. 기업의 핵심 자산은 특정 모델과의 결합이 아니라 모델을 교체해도 유지되는 평가 데이터와 업무 규칙입니다.
좌석을 파는 소프트웨어에서 완료된 업무를 파는 소프트웨어로 이동합니다
기존 서비스형 소프트웨어(SaaS)는 사용 계정 수가 늘수록 매출이 커졌습니다. 그러나 에이전트가 사람 대신 여러 시스템을 호출하면 계정 수는 실제 가치와 멀어집니다. 고객은 로그인 횟수보다 처리된 송장, 갱신된 재무모델, 심사된 보험계약, 제출된 법률문서에 돈을 지불하게 됩니다.
이 변화는 과금 단위를 단계적으로 바꿉니다.
| 과금 기준 | 고객이 사는 것 | 공급자가 져야 하는 책임 |
|---|---|---|
| 좌석 | 소프트웨어 접근권 | 기능의 가용성 |
| 사용량 | 토큰·문서·호출 | 처리량과 응답시간 |
| 거래 | 심사·제출·배포 | 업무 완료와 기록 |
| 성과 | 절감액·회수액·성공 건 | 결과 정의와 책임 배분 |
Daloopa의 데이터 소비량이 약 100배 증가하고 Moody’s가 MCP 접속과 에이전트 사용에 별도 과금을 시작한 것은 이 전환의 초기 신호입니다. 에이전트가 더 많은 데이터를 읽는 것만으로는 충분하지 않습니다. 워크플로우를 끝까지 실행하고 그 결과를 검증할 수 있어야 거래 또는 성과 기반 과금으로 이동할 수 있습니다.
Clio가 시연한 법률 워크플로우는 통화 응대에서 소송서류 제출과 청구까지 이어졌습니다. 회사 설명 기준으로 Clio Work는 최근 분기 신규계약 연간반복매출(ARR)의 절반 이상을 차지했습니다. Corgi는 트럭보험 심사를 2주에서 2분으로 줄였습니다. 이때 Corgi의 강한 진입장벽은 모델이 아니라 보험 라이선스와 자본, 즉 실제로 계약을 인수할 수 있는 권한입니다.
AI가 추천만 할 때는 고객이 실행과 책임을 떠안습니다. AI 기업이 실행권한까지 확보하면 더 큰 가치를 가져갈 수 있지만, 동시에 규제·자본·감사·분쟁 처리도 맡아야 합니다. 에이전틱 소프트웨어의 매출 확대와 책임 확대는 같은 움직임입니다.
데이터 보유보다 워크플로우 컨텍스트가 더 오래 남습니다
파운데이션 모델의 접근성이 높아질수록 단순한 AI 래퍼는 취약해집니다. 버튼 뒤의 모델을 바꾸는 것만으로 유사 기능을 만들 수 있기 때문입니다. 독점 데이터도 복사할 수 없다는 이유만으로 충분한 해자가 되지는 않습니다. 데이터가 실제 업무의 의사결정과 실행에 연결되어야 합니다.
강한 에이전틱 기업은 고객이 무엇을 원하는지만 아는 것이 아니라, 어떤 데이터가 최신인지, 어떤 예외가 반복되는지, 누가 승인할 수 있는지, 실패하면 어디까지 되돌려야 하는지를 압니다. 이 정보는 문서 저장소에 고정된 데이터가 아니라 업무를 수행할 때마다 갱신되는 워크플로우 컨텍스트입니다.
그 결과 제품의 학습 순환도 달라집니다. 더 많은 업무를 처리하면 예외 사례와 검증 결과가 쌓입니다. 이 데이터로 평가셋과 규칙을 개선하면 더 넓은 실행 권한을 부여할 수 있습니다. 실행 범위가 넓어지면 더 많은 업무 데이터가 들어옵니다. 검증된 업무 완료량이 제품을 개선하는 순환입니다.
에이전트가 새로운 고객이자 유통 경로가 됩니다
지금까지 소프트웨어의 첫 화면과 검색 최적화는 사람을 위해 설계되었습니다. 에이전트가 사용자를 대신해 제품을 발견하고 호출하는 환경에서는 기계가 읽을 수 있는 기능 설명, API·MCP 연결, 권한 범위, 가격, 응답 지연, 오류 처리 방식이 새로운 유통 인터페이스가 됩니다.
에이전트는 검색 결과를 보고 웹사이트에 가입하는 대신 필요한 순간에 가장 적합한 도구를 선택할 수 있습니다. 소프트웨어는 사람에게 브랜드를 기억시키는 동시에 에이전트가 기능을 정확히 이해하고 안전하게 호출하도록 만들어야 합니다. 이때 신원 확인, 위임 권한, 결제, 사용 한도, 분쟁 처리 기록이 제품의 일부가 됩니다.
필드트립에서 Vercel은 월 1.5조 건의 요청, 45조 개의 토큰, 2억3천만 건의 배포를 처리하고 있으며 연간반복매출 1만 달러 이상 고객이 4,000개를 넘고 전년 대비 100% 이상 증가했다고 설명했습니다. 이는 에이전틱 애플리케이션이 만들어지고 호출되는 횟수가 빠르게 늘고 있다는 인프라 측 신호입니다.
ClickHouse에서는 관측가능성 워크로드가 최근 상업적 성장의 핵심으로 부상했고, Splunk와 Elastic을 대체하려는 수요가 커졌습니다. 에이전트가 여러 도구를 거쳐 긴 작업을 실행하면 단일 오류 로그만으로 원인을 찾기 어렵습니다. 어떤 모델이 어떤 컨텍스트를 받아 어떤 도구를 호출했고, 비용과 지연이 어디서 늘었는지 실시간으로 추적해야 합니다. 저지연 컴퓨트, 실시간 데이터베이스, 실행 추적은 에이전트 시대의 기본 인프라가 됩니다.
보안은 비용 항목이면서 AI 도입을 허용하는 조건입니다
에이전트는 읽기만 하는 챗봇보다 공격 표면이 넓습니다. 이메일, 데이터베이스, 결제, 배포 시스템에 접근하고 외부 문서를 지시로 오해할 수 있습니다. 공격자는 프롬프트 주입, 권한 탈취, 데이터 유출, 도구 오용을 조합할 수 있습니다.
반대로 에이전트의 모든 판단과 호출을 구조화해 기록하면 방어자는 기존보다 세밀한 가시성을 얻을 수 있습니다. 보안운영센터(SOC)는 경보를 분류하는 단계를 넘어 공격 경로를 추론하고, 필요한 증거를 수집하며, 제한된 복구 조치를 실행하는 에이전트를 활용할 수 있습니다.
보안 시장의 기회는 공격이 늘어나는 데서만 생기지 않습니다. 인증, 최소권한, 지속 모니터링, 모델·에이전트 벤치마킹, 감사 추적이 있어야 기업이 더 큰 실행 권한을 AI에 맡길 수 있습니다. 보안은 에이전트의 성장에 붙는 비용이면서 동시에 성장 한도를 높이는 기반입니다.
월드모델은 텍스트 밖의 실패를 다뤄야 합니다
법률문서나 송장의 검증은 디지털 기록 안에서 끝납니다. 로봇, 자율주행, 제조 시스템은 실제 세계의 상태가 계속 변하고 센서가 불완전하며, 같은 행동도 다른 결과를 낼 수 있습니다. 이 영역에는 다음 토큰을 예측하는 언어모델만으로 부족합니다.
월드모델은 상태, 행동, 결과의 관계를 관찰해 시스템이 어떻게 움직이는지 학습합니다. 중요한 장점 중 하나는 예측의 불확실성을 함께 낼 수 있다는 점입니다. 연구진이 제시한 로봇 케이블 연결 사례에서는 실패 직전에 불확실성이 급증했습니다. 시스템이 이 신호를 이용하면 물리적 실패가 발생하기 전에 멈추거나 사람에게 넘길 수 있습니다.
Divergent의 AI 기반 제조 플랫폼 DAPS는 설계, 적층제조, 조립, 품질검증을 하나의 흐름으로 연결합니다. 회사 설명 기준으로 최근 프로그램은 개념 설계에서 첫 비행까지 71일이 걸렸고 툴링을 최대 95% 줄였습니다. 성능의 근거는 생성된 설계도 자체가 아니라 실제 제작, 조립, 비행, 품질 데이터가 설계 단계로 되돌아가는 폐쇄형 순환에 있습니다.
피지컬 AI는 소프트웨어 에이전트와 다른 상업화 전략을 요구합니다. 실패 비용이 크고 현장 배치가 느리며 하드웨어와 규제의 제약을 받습니다. 대신 설계부터 검증까지 데이터를 닫힌 순환으로 확보한 기업은 텍스트 데이터만으로 따라가기 어려운 경쟁우위를 만들 수 있습니다.
의료에서는 데이터 접근성과 책임 구조가 함께 해자가 됩니다
헬스케어 AI도 모델 성능만으로 배치되지 않습니다. 필드트립에서 소개된 유방암 예측 모델 Mirai는 30개국 66개 병원에 배치되었습니다. Pillar-0와 Pillar-1 같은 광범위한 파운데이션 모델은 여러 의료영상 양식과 질환으로 적용 범위를 넓히고 있습니다.
의료기관 배치에서는 서로 다른 장비와 환자집단에서도 성능이 유지되는지, 어느 조건에서 확신이 낮아지는지, 의료진에게 어떤 근거를 보여주는지, 사후 모니터링을 어떻게 하는지가 중요합니다. 실제 의료데이터에 접근하고 장기간 결과를 추적할 수 있는 관계는 모델 학습뿐 아니라 배치 후 검증을 가능하게 합니다.
따라서 의료데이터의 경쟁력은 단순 보유량보다 대표성, 종단 추적, 결과 라벨, 사용 동의, 임상 워크플로우 연결에서 나옵니다. 데이터 접근성과 책임 있는 배치 역량은 별개의 자산이 아니라 서로를 강화합니다.
2027년의 변화는 모델보다 시스템에서 더 크게 보일 수 있습니다
필드트립에 참여한 벤처캐피털들은 2027년에 추가적인 모델 능력의 돌파구가 나오고, 오픈모델이 추론 토큰에서 차지하는 비중이 커질 것으로 봤습니다. 에이전트는 프롬프트와 코딩을 넘어 과학적 발견, 기업 업무, 로봇 배치로 확장될 전망입니다. 동시에 AI 인프라 재설계, 대형 사이버공격, 기존 SaaS의 약화, AI 기업 인수합병도 빨라질 가능성이 제시되었습니다.
이 전망에서 더 중요한 변화는 모델의 순위보다 소프트웨어의 기본 단위가 달라지는 것입니다. 사람에게 화면과 기능을 제공하던 제품은 에이전트에게 도구, 권한, 검증 규칙을 제공합니다. 좌석 수를 팔던 사업은 완료된 업무와 성과를 팝니다. 하나의 모델에 의존하던 애플리케이션은 여러 모델, 코드, 전문가, 데이터, 감사 체계를 묶은 운영 시스템이 됩니다.
가장 방어력 있는 구조는 다음과 같습니다.
- 저비용 오픈모델이 반복적이고 검증 가능한 물량을 처리합니다.
- 프런티어 모델이 복잡하고 가치가 높은 예외를 맡습니다.
- 결정론적 코드와 도메인 규칙이 결과를 독립적으로 확인합니다.
- 사람은 목표와 책임 경계를 정하고 고위험 판단을 승인합니다.
- 실행 기록은 평가셋과 워크플로우 컨텍스트로 축적됩니다.
이 구조에서는 모델이 교체되어도 고객에게 제공하는 신뢰와 실행 능력이 남습니다. 반대로 검증과 책임 계층이 없는 제품은 더 좋은 모델이 나올 때마다 차별화가 약해집니다.
맺으며
프런티어 모델과 오픈모델 중 하나가 모든 시장을 차지하지는 않을 가능성이 큽니다. 오픈모델은 저비용으로 일상 업무의 토큰 물량을 넓히고, 프런티어 모델은 복잡성과 신뢰성에 더 높은 가격을 지불하는 영역을 지킵니다. 두 모델군의 역할을 가르는 것은 벤치마크 순위가 아니라 업무의 위험, 검증 가능성, 복구 비용입니다.
에이전틱 AI의 경쟁도 결국 같은 기준으로 이동합니다. 누가 더 똑똑한 답을 내는가보다 누가 더 많은 업무를 검증 가능한 방식으로 끝내고, 실패를 복구하며, 그 결과에 책임질 수 있는가가 중요합니다. 기업 AI의 다음 승부처는 모델 자체가 아니라 모델이 실제 일을 맡을 수 있게 만드는 검증 가능한 운영체제입니다.
자료 기준
- 골드만삭스 세 번째 연례 실리콘밸리 AI 필드트립 요약, 8월 18일~19일.
- 기업 수치와 사례: 필드트립에서 소개된 회사 설명과 미팅 내용 기준.
- 산업·기술·사업모델의 구조를 다루며 특정 종목에 대한 투자판단은 포함하지 않습니다.