모델 지능은 범용화되고, 실행 능력은 지역화됩니다: 에이전트 시장이 쪼개지는 방식과 한국의 기회

하나의 만능 에이전트가 세무도 보고, 계약서도 검토하고, 병원 청구도 처리하고, 쇼핑몰도 운영하는 미래. 매력적인 그림입니다. 하지만 한 발만 더 들어가 보면 이 가정은 과합니다. 모델이 똑똑해지는 것과, 그 모델이 실제 현장에서 일을 끝까지 해내는 것은 전혀 다른 문제이기 때문입니다.

이 글의 핵심 주장은 한 문장으로 요약됩니다. 모델의 지능은 전 세계로 범용화되지만, 실제 일을 해내는 실행 능력은 도메인과 지역별로 지역화됩니다. 그래서 승자는 범용 에이전트 앱 하나라기보다, 범용 추론 코어 위에 도메인별 도구와 워크플로, 데이터 접근권을 장악한 회사일 가능성이 큽니다.

이 블로그에서 다룬 두 흐름과도 곧장 이어집니다. 에이전트의 다음 병목이 모델이 아니라 훈련장과 평가 환경이라는 이야기, 그리고 젠슨 황이 말한 모델은 빙산의 일각이라는 이야기입니다. 이번 글은 같은 주제를 시장 구조의 관점에서 봅니다.

지능은 범용화되고, 실행은 지역화됩니다

거대 언어 모델의 추론 능력은 빠르게 평준화되고 있습니다. OpenAI, Anthropic, 구글, 메타, xAI, 딥시크 계열의 성능 차이는 좁혀지고, 결국 대부분의 응용 단계에 비슷하게 공급됩니다. 그런데 에이전트가 실제로 일을 하려면 모델의 똑똑함만으로는 부족합니다. 어떤 시스템에 접속할지, 어떤 권한으로 접근할지, 어떤 버튼이나 API를 호출할지, 중간 실패를 어떻게 복구할지, 결과가 맞는지 어떻게 판정할지, 그 기록을 어떻게 다음 학습 데이터로 되돌릴지를 모두 풀어야 합니다.

이 여섯 가지는 모델 자체보다 업무 환경의 구조에 달려 있습니다. 그리고 업무 환경은 산업과 국가마다 다릅니다. 그래서 에이전트 시장은 파운데이션 모델처럼 소수 승자가 독식하는 구조가 되기 어렵습니다. 가치를 레이어로 나눠 보면 각 층이 범용과 지역화 축에서 서로 다른 자리에 놓입니다.

왼쪽 레이어일수록 복제가 쉽고 경쟁이 치열합니다. 오른쪽 레이어일수록 복제가 어렵고 해자가 됩니다. 아래에서 세 개의 오른쪽 레이어, 즉 도구 품질과 검증된 워크플로, 데이터 접근권을 차례로 살펴보겠습니다.

도구 품질: 에이전트의 손발

도구가 부실하면 모델이 아무리 좋아도 실제 업무는 무너집니다. 세무 에이전트를 떠올려 보면, 세법을 아는 것만으로는 부족합니다. 홈택스와 위택스, 4대보험, 은행 거래내역, 카드 매출, 전자세금계산서, 증빙 PDF, 회계 시스템을 다 다뤄야 합니다. 각 시스템이 안정적인 도구로 연결돼 있지 않으면, 에이전트는 그럴듯한 거짓말이 아니라 실행 실패를 냅니다.

먼저 좋은 소식부터 보겠습니다. 도구를 연결하는 표준 자체는 빠르게 정착했습니다. Anthropic이 2024년 11월에 공개한 MCP(Model Context Protocol)는 에이전트가 외부 시스템에 연결되는 공용 규격인데, 2025년 4월 구글이 채택을 선언하기 전에 이미 OpenAI가 받아들였고, 마이크로소프트까지 합류하면서 사실상 업계 표준이 됐습니다. 2025년 말에는 Anthropic이 MCP를 리눅스 재단 산하 재단으로 기증했고, 출시 1년 만에 1만 6천 개가 넘는 서버가 만들어졌습니다. 거의 모든 서비스의 커넥터를 커뮤니티가 무료로 제공하는 상황입니다.

여기서 중요한 통찰이 나옵니다. 커넥터가 표준화되고 흔해질수록, 단순히 커넥터를 많이 만든 회사의 차별성은 사라집니다. 진짜 가치는 커넥터 개수가 아니라 도구의 품질에 있습니다. 같은 작업이라도 도구를 어떻게 만들었느냐에 따라 비용과 신뢰성이 크게 달라집니다. 한 예로 Arcade가 공개한 비교에서는, 같은 CRM에 같은 여덟 개 질의를 보냈을 때 도구 구현에 따라 토큰 사용량이 100배 넘게 차이 났습니다. 필요한 항목만 돌려주느냐 전체를 다 돌려주느냐, 실패했을 때 몇 번을 재시도하느냐 같은 설계 차이가 만든 격차입니다.

좋은 도구의 조건은 단순합니다. 같은 입력에 같은 결과를 주고(결정성), 권한과 인증과 감사 로그를 다루고(권한 인식), 실패 원인과 복구 경로를 에이전트에게 보여 주고(관찰 가능성), 응답 구조가 안정적이고(스키마 안정성), 학습과 평가를 위해 가짜 환경에서 반복 실행할 수 있고(샌드박스), 어떤 행동이 어떤 결과를 냈는지 추적할 수 있어야 합니다(감사 가능성). 이 여섯 가지를 갖춘 도구 레이어는 단순 커넥터와 전혀 다른 자산입니다.

그리고 이 지점에서 한국은 글로벌 에이전트와 격차가 벌어집니다. 한국의 업무 시스템은 API 우선이 아니라 웹과 문서, 공동인증서, 기관별 양식이 뒤섞여 있습니다. 홈택스와 위택스, 4대보험은 인증서 기반 웹 포털이고, 전자세금계산서 같은 데이터는 팝빌이나 링크허브 같은 민간 중개 서비스가 대신 모아 줍니다. 범용 에이전트가 한국 업무를 곧바로 잘하기 어려운 구조적 이유가 여기 있습니다. 바꿔 말하면, 한국 시스템을 안정적으로 조작하는 도구 레이어를 만든 회사에는 그 자체로 진입 장벽이 생깁니다.

검증된 워크플로: 업무의 암묵지

에이전트가 실패하는 가장 흔한 이유는 지식 부족이 아니라 순서와 예외 처리의 실패입니다. 병원 원무에서 보험 청구를 한다고 하면, 환자 정보 확인부터 진료 코드 확인, 급여와 비급여 분류, 청구 가능 여부 확인, 증빙 첨부, 심사 기준 확인, 반려 시 재청구 사유 분류, 내부 승인 절차 반영까지 이어집니다. 이 절차는 문서로 완전히 공개돼 있지 않습니다. 현장 직원이 몸으로 아는 관행과 예외가 섞여 있습니다. 결국 에이전트 성능은 모델이 얼마나 똑똑한가보다, 그 도메인의 워크플로가 얼마나 잘 정형화돼 있는가에 좌우됩니다.

그래서 검증된 워크플로는 그 자체로 자산이 됩니다. 에이전트가 반복 연습할 수 있는 업무 문제집(태스크 라이브러리), 숙련자가 수행한 정답 경로(골든 트래젝토리), 실패 유형별 복구 전략(실패 분류), 성공과 실패를 가르는 판정 기준(루브릭), 현장에서 자주 터지는 예외 모음, 그리고 개선을 증명하는 전후 성과 데이터입니다. 이걸 보유한 회사는 단순 자동화 앱이 아니라 도메인별 에이전트 훈련 인프라가 됩니다.

실제 사례가 이를 보여 줍니다. 법률 AI Harvey는 고객이 직접 만든 맞춤 워크플로가 2만 5천 개를 넘는다고 밝혔습니다. 흥미롭게도 Harvey는 2025년에 단일 모델 의존에서 벗어나 여러 모델을 섞어 쓰는 쪽으로 옮겼습니다. 모델 자체가 해자가 아니라는 것을 회사 스스로 보여 준 셈입니다. 개인상해 소송 AI EvenUp은 공개되지 않은 합의와 판결 데이터로 학습한 자체 모델을 핵심 자산으로 내세웁니다. a16z의 버티컬 AI 분석은 이 데이터가 공개돼 있지 않아 어떤 파운데이션 모델도 복제할 수 없다고 짚었습니다. 의료 음성기록 AI Abridge는 전자의무기록(EHR)과 깊이 통합되고 현장 임상 검증과 외부 인증을 쌓으면서, 모델이 아니라 의료 현장에 박힌 워크플로로 전환 비용을 만들어 냈습니다.

가치가 어떻게 쌓이는지를 사다리로 그려 보면 다음과 같습니다.

따라서 MCP 서버를 많이 만든 회사는 생각보다 약합니다. 강한 회사는 그 도구를 써서 실제 업무를 성공시키는 검증된 워크플로와 채점기를 함께 가진 회사입니다. 같은 흐름이 더 위로 올라가면, 에이전트를 반복 훈련하고 평가할 수 있는 환경, 곧 평가 환경과 강화학습 환경이 가장 희소한 자산이 됩니다. 실제로 실리콘밸리에서는 이 환경을 만드는 회사들에 큰 자본이 몰리고 있습니다. 이 블로그에서 따로 다룬 주제이기도 합니다.

데이터 접근권: 마지막 해자

가장 강한 해자는 데이터 접근권입니다. 정확히는 데이터를 많이 가졌다는 뜻이 아니라, 에이전트가 합법적이고 반복 가능하며 감사 가능하게 원천 데이터에 접근할 수 있는 권한 구조를 가졌다는 뜻입니다. 실제 업무 데이터는 대부분 닫혀 있기 때문입니다. 세무의 거래내역과 신고 이력, 법무의 계약서와 협상 기록, 병원의 진료와 청구 데이터, 부동산의 등기와 실거래, 영업의 고객관계관리(CRM)와 제안서까지, 도메인마다 접근 난이도가 높고 그 난이도 자체가 국가별로 다릅니다.

이 구조가 왜 해자가 되는지는 AI 이전부터 증명돼 있습니다. 핀테크 데이터 연결의 Plaid는 1만 2천 개가 넘는 금융기관을 잇고, 400곳이 넘는 AI 회사가 그 위에서 제품을 만든다고 밝힙니다. 사용자의 동의에 기반한 반복 가능하고 감사 가능한 데이터 접근을, 한 회사가 표준처럼 장악한 사례입니다. 2026년에는 에이전트의 권한과 한도를 검증된 신원에 묶는 개념을 제시하며, 에이전트가 은행 데이터에 접근하려면 결국 이 계층을 지나게 만드는 방향으로 움직였습니다. 비슷하게 여러 시스템을 하나의 규격으로 묶어 주는 통합 API 회사들도, 데이터 유출 방지와 개인정보 검사, 감사 로그를 갖춘 권한 계층으로 진화하고 있습니다.

그래서 금융과 의료, 법무, 세무처럼 데이터가 강하게 닫힌 영역에서는, 이 접근권과 권한, 감사 계층이 없으면 제품이 아니라 시연에 그칩니다. 한국은 이 지점이 특히 무겁습니다. 공동인증서와 기관별 폐쇄성, 개인정보와 데이터 주권 규제가 겹치기 때문입니다. 정부가 디지털플랫폼정부를 통해 약 1,500개 서비스를 단일 로그인으로 묶는 작업을 진행 중이지만, 당분간 한국의 데이터 접근은 지역적 성격이 강하게 남을 것입니다. 그만큼 이 계층을 합법적으로 장악한 회사의 해자는 단단해집니다.

그래서 시장은 어떻게 쪼개지는가

이 세 가지가 모두 지역화되면, 하나의 범용 에이전트가 모든 일을 직접 한다는 그림은 약해집니다. 더 정확한 그림은 범용 추론 코어 위에 도메인별, 지역별 실행 인프라가 붙는 형태입니다.

이렇게 보면 범용 에이전트 회사의 좋은 자리는 운영체제(OS)입니다. 자연어 지시를 이해하고, 계획을 세우고, 도구를 고르고, 기억을 관리하고, 실행을 조율하고, 사람의 개입과 보안과 감사를 관리하는 일입니다. 반면 도메인별 도구와 워크플로, 데이터 권한은 그 위에 붙는 앱스토어와 환경, 데이터 파트너가 공급합니다. 지역마다 세무와 법무, 의료, 행정 시스템이 다르므로 글로벌 에이전트 하나가 이 모든 것을 내재화하기는 비효율적입니다.

여러 투자자들의 진단도 한 방향으로 모입니다. Sequoia는 생성형 AI의 2막에서 해자는 데이터가 아니라 고객에 있다고 정리했고, 서비스가 곧 새로운 소프트웨어라는 글에서는 부조종사는 도구를 팔지만 자동조종은 일을 판다고 표현했습니다. Andrej Karpathy는 전통 소프트웨어가 명세할 수 있는 것을 자동화한다면, 거대 언어 모델은 검증할 수 있는 것을 자동화한다는 취지로 말하며, 평가 설계와 도메인별 피드백 루프, 안전한 권한 경계 같은 인프라가 오래가는 가치라고 짚었습니다. Box의 Aaron Levie는 사람보다 100배에서 1,000배 많은 에이전트가 생기면 오히려 데이터의 원천을 쥔 시스템의 중요성이 커진다고 봤습니다.

한국의 진짜 기회는 어디에 있나

한국에서도 버티컬 에이전트 앱은 많이 나올 것입니다. 다만 이들은 파운데이션 모델의 성능 개선과 대기업, 시스템통합(SI) 사업자의 진입에 취약합니다. 모델이 좋아지면 앱의 상당 부분이 평준화되고, 큰 회사가 같은 영역에 들어오면 유통에서 밀릴 수 있습니다.

반면 지역화된 실행 환경을 소유한 회사는 다릅니다. 예를 들어 한국 세무 에이전트 앱은 여러 개가 나올 수 있지만, 한국 세무 업무 수천 개를 정형화한 태스크 모음과, 홈택스와 위택스를 안정적으로 다루는 도구, 세무사의 채점 기준, 신고 오류를 잡아내는 채점기, 숙련자의 정답 경로 데이터를 함께 가진 회사는 훨씬 드뭅니다. 이런 회사는 특정 앱 하나가 아니라 여러 에이전트 회사와 회계법인, 세무법인, 회계 솔루션 업체, 금융사에 모두 팔 수 있습니다.

정책 환경도 이 방향을 거듭니다. 한국은 AI 기본법이 2026년 1월 시행됐고, 정부는 도메인별 데이터셋 구축부터 실증까지 지원하는 산업 특화 AI 에이전트 프로그램을 운영하며 금융을 포함한 여러 도메인을 지정했습니다. 한국 업무의 도구와 워크플로, 데이터, 평가 계층을 먼저 선점하는 회사에 유리한 흐름입니다.

투자자가 던질 점검 질문

그래서 한국형 업무 에이전트를 볼 때는 모델 성능보다 다음을 먼저 확인하는 편이 좋습니다. 도구 계층에서는 그 회사의 도구가 실제 업무 시스템을 안정적이고 권한 인식적으로 조작하는지, 단순 커넥터 나열에 그치지 않는지를 봅니다. 워크플로 계층에서는 숙련자의 일을 태스크와 정답 경로, 채점 기준으로 정형화했는지를 봅니다. 평가 계층에서는 성공과 실패를 자동으로 판정할 수 있는지, 거대 언어 모델 한 대의 주관적 판단에만 기대지 않는지를 봅니다. 데이터 계층에서는 합법적이고 반복 가능한 접근권이 있는지를 봅니다. 그리고 피드백 루프에서는 에이전트의 실행 기록이 다음 학습과 평가 데이터로 되돌아오는지를 봅니다.

반대로 주의가 필요한 신호도 있습니다. 우리는 범용 업무 에이전트라고만 말하는 경우, 도구와 데이터와 업무별 병목을 가볍게 본 것일 수 있습니다. 커넥터 개수만 강조하거나, 시연은 좋은데 감사 로그가 없거나, 평가를 거대 언어 모델 한 대의 판단에만 맡기거나, 고객 데이터 접근권이 불명확하거나, 전문가 검수 과정이 없거나, 실제 업무 성공률이 얼마나 올랐는지를 보여 주는 데이터가 없다면, 인프라 회사가 아니라 컨설팅이나 개념 검증에 머물러 있을 가능성을 함께 살펴야 합니다.

맺으며

정리하면 이렇습니다. 에이전트의 범용성은 모델 계층에서만 성립하고, 실행 계층은 도메인과 지역별로 쪼개질 가능성이 높습니다. 단일 회사가 전 세계 모든 업무를 수직 통합하는 범용 에이전트를 만들기는 어렵고, 실제 시장은 파운데이션 모델과 에이전트 런타임, 도구 계층, 도메인 환경, 데이터 접근 중개, 워크플로 소유자로 분해될 가능성이 큽니다.

그래서 한국에서의 진짜 기회는 범용 에이전트 앱보다, 한국 로컬 업무의 도구와 워크플로, 데이터, 평가 계층을 먼저 선점하는 회사에서 나올 가능성이 큽니다. 모델은 빌려 쓸 수 있지만, 한국 현장에 박힌 실행 능력은 쉽게 복제되지 않기 때문입니다.