AI를 끌 수 없는 회사는 누구의 고객이 될까
월요일 오전, 어느 회사의 AI가 멈췄다고 가정해 보겠습니다.
고객 답변 초안이 나오지 않습니다. 보고서를 만들던 직원은 빈 화면을 보고 있고, 개발팀은 전날까지 정상 작동하던 코드의 수정 위치를 찾고 있습니다. 누군가 말합니다. “이제 이거 없으면 일을 못 하겠는데요.”
그 회사에 AI를 판매한 창업자라면 좋아할 만한 말입니다. 고객이 제품에 깊이 의존하고 있다는 뜻이니까요. 투자자도 비슷한 생각을 할 수 있습니다. 이 정도면 해지하기 어렵겠다고요.
그런데 다음 장면이 중요합니다. 다른 회사의 AI를 연결하자 업무가 다시 돌아갑니다.
고객은 AI 없이 살 수 없었던 것일까요. 아니면 우리 제품 없이 살 수 없었던 것일까요.
두 질문을 같은 것으로 취급하면, 거대한 시장을 발견하고도 잘못된 회사에 투자할 수 있습니다.
‘인지 바이러스’라는 이름보다 흥미로운 것
2026년 9월 3일 공개된 Ricard Solé 등의 「Large-Language Models as a Cognitive Virus」는 대규모 언어모델의 확산을 바이러스 전파에 빗대어 분석합니다. AI와 연결되지 않은 사람, 연결된 사용자, 지속적으로 의존하는 사용자 사이의 이동을 모형화하고, 사회적 전파·회복·집단적 강화가 결합하면 임계점과 기술적 고착이 나타날 수 있다고 제안합니다.[1]
저자들의 문제 제기는 개인의 사용시간을 넘어섭니다. 일정한 문턱을 넘으면 작은 도입 증가가 집단 전체의 빠른 의존 전환으로 이어질 수 있으며, 반대로 의존에서 벗어날 수 있게 하는 조건도 있다는 것입니다. ‘바이러스’는 이러한 확산을 설명하는 비유입니다. AI에 악의가 있다는 뜻도, 사용자를 의학적 중독자로 진단한다는 뜻도 아닙니다.[1]
여기에는 선을 그어야 합니다. 공개 초록이 보고하는 것은 모형의 결과이지, 현실의 사람들이 특정 비율로 사고력을 잃었다는 측정값이 아닙니다. 이 글에서 주논문에 귀속하는 내용은 확인한 초록의 주장으로 한정합니다. 본문 수식과 그림을 독립 검증한 해설은 아니며, 아래의 회사 사례·제품 평가·투자 판단은 별도 연구와 필자의 분석입니다.
그럼에도 이 문제 제기는 유용합니다. AI를 도입할지 말지는 개인이 결정하는 것처럼 보이지만, 도입한 뒤 되돌아갈 수 있는지는 주변 조직까지 바뀌었느냐에 달릴 수 있기 때문입니다.
가장 먼저 사라지는 것은 사람이 아니라, 기다려 주는 시간일 수 있습니다
다시 가상의 회사로 돌아가 보겠습니다.
처음에는 직원 한 명이 AI로 보고서 초안을 빨리 만듭니다. 주변에서도 따라 합니다. 팀장은 예전보다 빨리 자료를 받을 수 있다는 사실을 알게 됩니다. 다음부터는 제출 기한이 짧아집니다.
직원 개인에게 AI 사용은 여전히 선택입니다. 하지만 AI를 쓰지 않을 때 허용되는 시간은 더 이상 예전과 같지 않습니다.
그다음에는 업무 배분이 바뀝니다. 초안을 직접 만들며 연습하던 신입은 AI가 만든 문서를 다듬습니다. 선배는 결과물을 더 많이 검토하느라 작성 과정을 함께 볼 시간이 줄어듭니다. 사람이 어디서 막히는지, 어떤 오류를 반복하는지 관찰할 기회도 줄어들 수 있습니다.
이 회사에서 AI 사용을 줄이기로 결정한다고 해도, 계정을 해지하는 것만으로 이전 상태가 복원되지는 않습니다. 납기를 다시 협의해야 하고, 사라진 연습 기회를 만들어야 하며, 줄여 놓은 검토 인력을 확보해야 할 수도 있습니다.
이것은 관찰된 특정 기업의 사례가 아닙니다. 개인의 편리함이 조직의 기준을 바꾸고, 그 기준이 다시 개인의 선택을 좁히는 경로를 설명하기 위한 사고실험입니다. 실제로 이런 경로가 작동하는지는 도입 전후의 업무 배분과 학습, 품질을 추적해야 알 수 있습니다.
바로 여기서 ‘AI가 좋으니 많이 쓴다’라는 설명이 부족해집니다. 사용량이 유지되는 이유에는 높은 효용뿐 아니라, 과거의 선택으로 바뀐 업무 구조도 섞일 수 있습니다.
반대로 이 변화 자체를 실패로 취급해서도 안 됩니다. 모든 사람이 과거 방식으로 모든 일을 할 수 있어야 한다면 자동화의 상당 부분은 불가능해집니다. 보존할 대상은 모든 수작업이 아니라, 새로운 문제를 정의하고, 중요한 오류를 발견하고, 시스템을 바꿀 수 있는 능력입니다.
실제 연구는 ‘사람이 멍청해진다’보다 복잡합니다
이 주제를 다룬 이전 글에서는 감독자의 숙련과 검토 비용을 살펴봤습니다. 여기서는 그 논의를 전환비용으로 확장하기 위해, 서로 다른 방향의 증거만 짚겠습니다.
Anthropic의 개발자 52명 무작위 배정 실험에서는 익숙하지 않은 Python 라이브러리를 AI와 함께 배운 집단의 사후 시험 점수가 50%, 직접 코딩한 집단은 67%였습니다. 차이는 17퍼센트포인트입니다. 작업시간 차이는 통계적으로 유의하지 않았습니다. 이는 제한된 과제 직후의 학습 결과이며, 기존 개발 능력이 장기간 쇠퇴했다는 증거는 아닙니다.[2]
반면 『Quarterly Journal of Economics』에 실린 고객상담 연구는 다른 가능성을 보여줍니다. 상담원 5,172명의 단계적 AI 도입 자료에서 시간당 문제 해결 건수는 평균 15% 늘었습니다. 연구진은 AI 추천이 일시 중단된 기간에도 이전보다 개선된 성과를 관찰하며 학습의 증거로 해석했습니다. 한 기업의 현장 연구이므로 모든 직무에 일반화할 수는 없지만, AI가 사람에게 능력을 남길 수도 있다는 중요한 반례입니다.[3]
고등학생 약 1,000명을 대상으로 한 수학 학습 실험에서는 일반형 AI 도구의 부정적 후속 학습 효과가, 교사 지침에 따라 힌트를 제공하는 방식에서는 대체로 완화됐습니다. 다만 부정적 효과를 줄였다는 결과와 독립 시험 성적을 유의하게 높였다는 주장은 구분해야 합니다.[4]
세 연구를 합쳐 ‘AI의 평균 효과’를 계산할 수는 없습니다. 대상, 과제, 설계와 측정 시점이 다릅니다. 대신 투자자가 피해야 할 지름길은 분명해집니다. 사용량 증가만으로 생산성을 증명할 수도 없고, 생산성 증가만으로 사람의 학습을 증명할 수도 없습니다.
같은 AI라도 이미 아는 일을 빨리 처리할 때와, 처음 배우는 일을 대신 해결할 때는 결과가 다를 수 있습니다. 고객이 제품과 함께 더 유능해지는지, 제품이 없는 상황에 더 취약해지는지를 따로 봐야 합니다.
거대한 의존 시장이, 거대한 이익을 보장하지는 않습니다
투자 논리에서 가장 위험한 비약은 다음 문장 사이에 있습니다.
“기업은 앞으로 AI 없이는 운영하기 어렵다.”
“그러므로 우리가 투자하는 AI 회사는 높은 가격을 받을 수 있다.”
앞 문장이 참이어도 뒷 문장은 별도로 증명해야 합니다.
고객에게 수작업으로 돌아가는 비용이 크더라도, 다른 공급자가 비슷한 결과를 더 싸게 제공한다면 가격 협상은 그 대안과의 비교에서 시작됩니다. 특정 기술에 대한 의존과 특정 판매자에 대한 의존은 다른 문제입니다.
물론 실제 모델 간 성능 차이는 중요할 수 있습니다. 다른 모델로 바꾸면 핵심 업무의 정확도가 떨어지거나, 필요한 속도와 비용 조건을 맞추지 못한다면 그 차이가 경쟁우위입니다. ‘모델은 모두 같아진다’는 가정을 먼저 놓고 분석할 이유도 없습니다.
다만 고객이 “이 AI가 없으면 안 된다”고 말할 때는 무엇이 없으면 안 되는지 분해해야 합니다. 모델 자체의 능력인지, 회사의 데이터가 정리된 상태인지, 승인권한과 업무 시스템의 연결인지, 수년간 쌓인 예외 처리 기록인지가 다릅니다.
| 고객이 떠나기 어려운 이유 | 투자자가 확인할 것 | 성급하게 내리면 안 되는 결론 |
|---|---|---|
| 사람이 예전 방식으로 처리하기 어려움 | 다른 AI로 대체했을 때의 성과와 비용 | 우리 회사만 가격을 올릴 수 있다는 결론 |
| 특정 모델이 핵심 업무에서 더 잘함 | 고객의 실제 과제로 비교한 성능·지연·총비용 | 공개 평가 점수 차이가 그대로 고객 가치라는 결론 |
| 데이터·권한·업무 연결이 깊음 | 옮겨야 할 자산과 재검증 범위, 실제 이전 비용 | 연결 항목 수가 많으면 경쟁우위도 크다는 결론 |
| 사용 이력과 피드백이 쌓임 | 그 이력이 다음 판단의 품질을 얼마나 높이는지 | 대화 기록이 많으면 자동으로 독점적 데이터라는 결론 |
여기에 한 단계 더 어려운 문제가 있습니다. 고객이 판단을 오래 외주화하면, 경쟁 제품이 제대로 작동하는지 비교할 능력도 약해질 수 있다는 가설입니다. 그렇다면 기술 일반에 대한 의존이 특정 공급자에 대한 의존으로 바뀔 여지는 있습니다.
그러나 이것을 곧바로 좋은 사업이라고 평가하고 싶지는 않습니다. 고객이 성능 차이를 검증하지 못해 남는 구조라면, 그 비용을 발견한 구매자에게는 독립 평가나 다른 운영 플랫폼을 도입할 이유가 생깁니다. 경쟁자가 파고들 수 있는 문제를 고객 안에 축적하는 셈입니다.
장기적으로 더 설득력 있는 경쟁우위는 고객이 대안을 비교할 수 있는데도, 우리 제품을 쓰는 편이 낫다는 사실을 계속 입증하는 것입니다.
‘우리 없이는 못 한다’보다 강한 판매 문장
이 관점에서 관심을 가질 만한 사업은 고객의 의존을 무작정 늘리는 제품이 아닙니다. AI를 더 많이 도입해도 고객이 운영권과 판단력을 유지하게 만드는 제품입니다. 다만 좋은 문제의식과 좋은 사업은 여기서도 구분해야 합니다.
공급자를 바꿔도 회사가 멈추지 않게 하는 제품
예를 들어 기업의 AI 업무를 여러 모델로 실행할 수 있게 하면서, 회사의 데이터·평가기준·승인권한·실행기록은 일관되게 관리하는 제품을 생각할 수 있습니다.
고객에게 파는 것은 모델 목록이 아닙니다. 더 좋은 모델이 나왔을 때 품질을 검증하고 갈아탈 수 있는 능력, 기존 모델에 문제가 생겼을 때 업무를 이어가는 능력입니다. 회사의 지식과 업무 규칙을 특정 공급자와 분리해 두는 것이 그 출발점입니다.
하지만 모델을 바꿔 호출하는 기능만으로 높은 이익을 기대하기는 어렵습니다. 기존 업무 플랫폼이 같은 기능을 포함할 수 있고, 고객이 실제로 모델을 자주 바꾸지 않는다면 일회성 구축에 그칠 수도 있습니다. 반복 매출의 근거는 지속적인 품질 평가, 비용 관리, 권한 통제와 장애 대응에서 찾아야 합니다.
검토 단계에서는 “몇 개 모델을 연결하느냐”보다 **“공급자를 교체한 실제 고객이 무엇을 보존했고, 무엇을 다시 검증했으며, 얼마나 빨리 업무 수준을 회복했느냐”**를 묻겠습니다. 교체 경험도 없고 평가 자료도 없다면, 선택권을 판다는 설명은 아직 약속입니다.
사람에게 필요한 판단을 남기는 제품
다른 기회는 숙련을 유지하는 기능을 일의 흐름 안에 넣는 데 있습니다.
가령 신입이 AI의 결론을 읽기 전에 예외를 먼저 골라 보고, 자신의 판단과 시스템의 판단이 갈린 이유를 피드백받는 방식입니다. 모든 업무를 시험으로 만들 필요는 없습니다. 반복적이고 저위험인 일은 자동화하고, 드물지만 손실이 큰 판단에는 사람이 생각할 기회를 의도적으로 남기는 설계입니다.
이것을 ‘사고력 보호’라는 구호만으로 판매하면 예산을 얻기 어려울 수 있습니다. 현업 책임자가 살 이유는 신입의 독립 수행까지 걸리는 기간이 짧아지고, 예외 처리와 재작업에 드는 비용이 줄어드는 데 있어야 합니다.
반론도 명확합니다. 추가 질문과 학습 절차는 당장의 속도를 늦출 수 있습니다. 직원이 우회하거나, 고객이 기능을 꺼 버릴 수도 있습니다. 따라서 기능이 존재한다는 사실보다 실제 사용률, 지연 비용, 이후의 오류 탐지 성과를 함께 봐야 합니다.
이 시장에서 매력적인 판매 문장은 “우리 없이는 아무것도 못 하게 됩니다”가 아닙니다.
“우리 제품을 쓰는 동안, 회사가 중요한 일을 더 잘 판단하게 됩니다.”
이 문장을 고객의 업무 성과로 입증하는 기업이라면, 높은 유지율을 설명하는 방식부터 달라집니다.
해지율을 보기 전에, 무엇을 바꿔 보는가
AI 기업을 검토한다면 유지율 옆에 다음과 같은 실험을 놓고 싶습니다. 표준화된 학술 지표가 아니라, 앞의 논의를 투자 실사에 적용한 제안입니다. 실제 운영을 갑자기 중단하는 대신 비핵심 업무나 통제된 시험 환경에서 수행해야 합니다.
| 실험 | 드러나는 것 | 해석할 때의 주의점 |
|---|---|---|
| 같은 난도의 과제를 AI 없이 수행 | 사람에게 남은 독립 수행·검증 능력 | 실패했다고 특정 판매자의 경쟁우위가 증명되지는 않음 |
| 입력·권한·평가기준을 맞추고 공급자 교체 | 모델·제품의 실제 성능 차이와 전환비용 | 초기 설정 미숙과 지속적인 성능 격차를 구분 |
| 데이터와 업무 이력을 옮긴 뒤 다시 비교 | 누적 자산이 만드는 가치와 이동 가능성 | 단순한 내보내기 제한과 고유한 성능 개선을 구분 |
| 미리 설계한 예외·오류를 넣고 대응 관찰 | 사람과 시스템이 오류를 발견하고 복구하는 능력 | 일상 처리속도와 비상 대응능력을 별도로 평가 |
이 실험들을 나눠야 첫 장면의 수수께끼를 풀 수 있습니다.
AI를 끄면 일이 멈추지만 경쟁 제품을 켜면 곧 회복된다면, 강한 기술 수요가 있다는 증거입니다. 특정 기업의 독점적 지위를 보여주는 증거는 아닙니다.
반대로 동일한 데이터와 조건을 제공해도 대안의 성과가 낮고, 그 격차가 고객에게 중요한 결과로 이어진다면 가격을 더 받을 근거가 있습니다. 축적된 업무 자산 덕분에 그 차이가 커진다면 지속성도 검토할 만합니다.
고객이 떠나지 않는 이유를 ‘익숙해서’, ‘불안해서’, ‘옮기기 어려워서’, ‘실제로 더 잘해서’로 구분하지 않는 유지율은 너무 많은 것을 한 숫자에 담고 있습니다.
투자해야 할 것은 무력한 고객이 아닙니다
‘인지 바이러스’라는 제목은 AI 낙관론과 비관론 모두를 유혹합니다. 한쪽은 인간의 퇴화를, 다른 쪽은 되돌릴 수 없는 시장 확대를 읽고 싶어질 수 있습니다. 하지만 주논문의 초록이 제시하는 모형만으로 어느 쪽의 현실 규모도 확정할 수 없습니다.[1]
투자자가 얻을 만한 질문은 더 실용적입니다. 도입 이후 고객의 선택지가 어떻게 바뀌는가. 사람의 판단 능력, 회사의 데이터, 시스템을 바꿀 권한은 어디에 남는가. 그리고 그 변화 중 무엇이 고객에게 실제 가치를 만들어 주는가.
고객이 AI를 많이 쓰도록 만드는 기업과, 고객이 AI를 잘 운영하도록 만드는 기업은 겉으로 비슷한 성장률을 보일 수 있습니다. 그러나 오류가 생겼을 때, 계약을 갱신할 때, 더 좋은 경쟁 제품이 등장했을 때는 차이가 드러납니다.
AI를 끊을 수 없는 고객이, 반드시 당신을 끊지 못하는 고객은 아닙니다.
그 간극을 고객의 약점이 아니라 제품의 실력으로 메우는 회사에 투자할 이유가 있습니다.
출처와 검증 범위
[1] Ricard Solé 외, Large-Language Models as a Cognitive Virus, arXiv:2609.03344, 2026년 9월 3일. 공개 초록으로 저자·발표일·연구의 주장과 성격을 확인했습니다. 본문 접근 제한으로 수식·그림을 독립 검증하지 않았으며, 특정 임계값이나 인지능력 감소율은 인용하지 않았습니다. 기업의 가격 결정력과 투자기회는 논문의 실증 결과가 아니라 이 글의 해석입니다.
[2] Judy Hanwen Shen·Alex Tamkin, How AI assistance impacts the formation of coding skills, Anthropic, 2026년 1월 29일. 연구 논문. 공식 연구 설명의 실험 설계·결과·한계를 확인했습니다. 50%와 67%의 차이는 상대적 17%가 아니라 17퍼센트포인트입니다.
[3] Erik Brynjolfsson·Danielle Li·Lindsey Raymond, Generative AI at Work, The Quarterly Journal of Economics, 140(2), 889–942, 2025년. 최종 게재본의 표본 5,172명과 평균 생산성 개선 15%를 사용했습니다. 단계적 도입을 분석한 현장 연구이며 무작위 배정 실험으로 표기하지 않았습니다.
[4] Hamsa Bastani 외, Generative AI without guardrails can harm learning: Evidence from high school mathematics, PNAS, 2025년. 2025년 8월 20일 정정은 저자 소속 표기에 관한 내용입니다. 학습에 대한 결과와 한계는 학술지에 공개된 설명을 기준으로 인용했습니다.