← Back to list

AI의 다음 병목은 모델이 아니라 인간의 주의입니다

AI 에이전트CodexChatGPT추론 인프라하네스 엔지니어링기술 분석

모델이 더 똑똑해지면 AI 제품은 어떻게 달라질까요. 흔한 답은 더 정확한 답변, 더 긴 보고서, 더 좋은 코드입니다. 그러나 OpenAI에서 ChatGPT와 Codex를 담당하는 Thibault “Tibo” Sottiaux가 Matthew Berman과 나눈 인터뷰는 조금 다른 미래를 그립니다.

다음 변화는 답변 품질만 높아지는 것이 아닙니다. AI가 사용자를 오래 기억하고, 음성과 화면을 함께 이해하며, 필요한 도구를 골라 쓰고, 노트북 밖의 컴퓨팅 자원을 동원해 여러 작업을 동시에 끝내는 방향입니다. 사람이 여러 에이전트를 직접 열고 지시하고 확인하는 현재 방식도 오래가지 않을 수 있습니다.

이 인터뷰를 한 문장으로 압축하면 이렇습니다.

AI의 다음 병목은 모델이 답을 만드는 능력에서, 시스템이 사람의 목표와 주의를 얼마나 잘 다루는가로 이동하고 있습니다.

이 주장은 단순한 미래 예측에 그치지 않습니다. OpenAI가 공개한 GPT-5.6, ChatGPT Work, Codex, Symphony 자료를 함께 보면 이미 같은 방향의 제품과 운영 변화가 나타나고 있습니다. 다만 인터뷰에서 제시된 비전, 회사가 발표한 내부 성과, 외부에서 반복 검증된 사실은 서로 구분해야 합니다.

채팅창에서 개인 에이전트와 무인 작업 시스템으로 이동합니다

지금까지 AI 제품의 기본 단위는 대화였습니다. 사람이 질문을 입력하면 모델이 답을 반환하고, 다음 질문에서 사람이 다시 방향을 정했습니다. 에이전트는 이 구조를 바꿉니다. 사람은 답변이 아니라 목표를 주고, 시스템은 여러 단계의 작업을 계획하고 도구를 사용하며 결과물을 완성합니다.

OpenAI의 경제 연구는 이를 지식노동의 단위가 짧은 상호작용에서 위임된 장기 작업으로 이동하는 현상으로 설명합니다. 2026년 5월 표본에서 개인 Codex 사용자의 80.6%가 사람에게 30분 넘게 걸릴 것으로 추정되는 과제를 한 번 이상 맡겼고, 70.2%는 1시간 넘는 과제를 맡겼습니다. 8시간 이상으로 추정되는 과제를 맡긴 사용자도 25.6%였습니다. 이는 OpenAI의 추정 방법과 사용자 표본에 기반한 회사 발표 수치이지만, 사용 방식이 단문 생성에서 장기 실행으로 이동한다는 방향은 분명합니다.

Sottiaux는 이 다음 단계를 두 종류로 나눕니다.

제품 유형 개인 에이전트 무인 작업 시스템
중심 질문 나를 얼마나 잘 이해하고 돕는가 업무를 얼마나 안정적으로 끝내는가
필요한 맥락 목표, 선호, 일정, 팀, 과거 대화 업무 상태, 규칙, 권한, 시스템 로그
인간의 역할 함께 생각하고 방향을 계속 조정 고위험 행동과 예외만 승인
먼저 적용될 일 조사, 기획, 창작, 의사결정 지원 회귀 오류 수정, 성능 최적화, 보안 패치
가장 큰 실패 부정확한 개인화, 주의 방해 잘못된 실행, 권한 초과, 복구 실패

두 제품은 겉으로 모두 에이전트지만 설계 목표가 다릅니다. 개인 에이전트는 사람과 계속 상호작용해야 하므로 맥락, 말투, 타이밍, 주의 관리가 중요합니다. 무인 작업 시스템은 사람이 보고 있지 않을 때도 움직이므로 평가, 권한, 중단, 감사, 복구가 더 중요합니다.

하나의 채팅창에서 성격이 다른 두 에이전트 제품이 갈라집니다대화형 AI질문 → 답변사람이 매번 다음 단계 지정도구 사용 에이전트목표 → 계획 → 실행여러 단계를 이어서 수행개인 에이전트기억·음성·상황·주의무인 작업 시스템평가·권한·감사·복구공통 기반• 멀티모달 모델과 자연어 인터페이스• 메모리, 도구, 샌드박스, 클라우드 실행환경• 작업 상태, 평가, 관측, 비용 제어• 인간 승인과 책임 경계
개인 에이전트와 무인 자동화는 같은 모델을 쓸 수 있지만 제품의 성공조건은 다릅니다. 전자는 관계와 주의를, 후자는 통제와 복구를 잘 설계해야 합니다.

ChatGPT와 Codex의 결합은 코딩 기능 추가보다 큰 변화입니다

인터뷰에서 가장 중요한 제품 발언은 ChatGPT와 Codex가 합쳐지는 이유입니다. Sottiaux는 미래 모델이 두 제품의 결합을 요구한다고 설명합니다. 코딩과 일반 지식노동이 모델 내부에서 분리된 능력이 아니고, 같은 도구 사용 구조와 같은 실행 하네스 위에서 작동하기 때문입니다.

이는 모든 사용자에게 똑같은 복잡한 화면을 보여준다는 뜻이 아닙니다. 같은 에이전트가 사용자의 역할, 숙련도, 과제에 따라 인터페이스를 달리 보여준다는 가설에 가깝습니다. 개발자는 코드 변경과 테스트를 보고, 재무 담당자는 스프레드시트와 근거를 보며, 디자이너는 캔버스와 시안을 볼 수 있습니다. 내부의 실행 시스템은 같지만 표면은 개인에게 맞춰집니다.

OpenAI는 2026년 7월 ChatGPT Work를 공개하며 Codex 기술을 ChatGPT 안에 넣었다고 밝혔습니다. 파일과 앱을 오가며 자료를 모으고, 작업을 작은 단계로 나누며, 문서·시트·슬라이드·웹 앱 같은 완성물을 만드는 에이전트입니다. 6월에는 Codex 사용자 중 비개발자가 약 20%이고 개발자보다 3배 넘게 빠르게 늘고 있다고 발표했습니다.

여기서 제품 경계가 바뀝니다.

  • 코딩 에이전트는 개발자용 틈새 도구가 아니라 코드를 실행수단으로 사용하는 범용 작업 에이전트가 됩니다.
  • ChatGPT는 답을 보여주는 대화창에서 파일과 앱의 상태를 바꾸는 작업 공간으로 이동합니다.
  • 소프트웨어 메뉴는 사람이 기능을 찾는 고정 구조에서 에이전트가 과제에 맞춰 생성하는 인터페이스로 바뀔 수 있습니다.
  • 사용자가 선택하던 모델과 제품 이름은 뒤로 숨고, 시스템이 비용·속도·위험에 맞춰 모델을 배치할 가능성이 커집니다.

따라서 ChatGPT와 Codex의 결합을 단순한 제품 통합으로 보면 핵심을 놓칩니다. 이것은 대화와 실행, 일반업무와 코딩, 사용자 화면과 에이전트 하네스가 하나의 작업 운영체제로 모이는 과정입니다.

추론이 빨라지면 기다림이 아니라 시스템 구조가 달라집니다

AI 속도를 초당 토큰 수로만 보면 빠른 답변이 가장 먼저 떠오릅니다. 그러나 에이전트에서는 모델이 글자를 생성하는 시간이 전체 작업시간의 일부일 뿐입니다.

작업 완료시간 = 모델 추론 + 도구 호출 + 네트워크 + 코드 실행 + 검증 + 인간의 확인

모델 추론이 10배 빨라져도 데이터베이스 응답, 브라우저 로딩, 코드 컴파일, 외부 API, 승인 대기가 그대로라면 전체 작업은 10배 빨라지지 않습니다. 인터뷰에서 Sottiaux도 긴 코드를 생성하는 작업은 속도 향상을 크게 체감하지만, 도구 호출이 많은 작업은 외부 지연 때문에 체감 향상이 3~4배에 그칠 수 있다고 설명합니다. 이 배수는 인터뷰 발언이며 공개된 일반 성능보장은 아닙니다.

여기서 용어를 구분할 필요가 있습니다. 인터뷰에서는 ultra-fast라는 표현과 최대 14배 수준의 속도가 함께 언급되지만, 현재 OpenAI의 공식 제품 설명에서 Fast mode는 표준 처리보다 최대 2.5배 빠른 유료 추론 옵션입니다. 반면 Ultra는 기본적으로 네 에이전트를 병렬 조정하는 고성능 설정입니다. Fast는 한 작업의 모델 응답속도를 높이고, Ultra는 여러 탐색 경로에 더 많은 연산을 배분합니다. 같은 기능이 아닙니다.

추론이 빨라지면 사라진 병목만큼 다른 지연이 커 보입니다현재 작업시간모델 추론도구실행사람빠른 추론 뒤모델도구실행사람새 병목주의와 승인속도가 바꾸는 설계• 한 에이전트를 기다리기보다 탐색·구현·시험을 병렬 실행합니다.• 도구와 네트워크를 비동기로 설계하고 느린 단계를 숨깁니다.• 사람에게 모든 중간단계를 보여주지 않고 결정이 필요한 순간만 올립니다.• 초당 토큰보다 검증된 결과가 나오기까지의 전체 시간을 측정합니다.
막대 길이는 메커니즘을 설명하기 위한 예시입니다. 모델 지연이 줄어들수록 도구, 실행환경, 검증, 사람의 승인시간이 전체 성능을 더 크게 좌우합니다.

속도가 충분히 높아지면 인터페이스도 달라집니다. 요청을 보내고 기다리는 채팅보다 음성으로 방향을 말하고, 화면에서 시안이나 코드를 즉시 보며, 다시 수정하는 공동작업이 자연스러워집니다. 빠른 추론은 같은 제품을 조금 더 쾌적하게 만드는 기능이 아니라 배치형 위임을 실시간 협업으로 바꾸는 기반입니다.

노트북은 작업장이 아니라 조종석이 됩니다

현재 노트북과 데스크톱 운영체제는 사람 한 명이 몇 개의 앱을 보고 키보드와 마우스로 조작하는 속도에 맞춰져 있습니다. 에이전트는 같은 제약을 갖지 않습니다. 여러 저장소를 읽고, 수십 개의 실험을 돌리고, 브라우저와 데이터베이스를 병렬로 다루려면 한 사용자의 노트북보다 큰 자원과 장시간 실행환경이 필요합니다.

Sottiaux가 “다음 세대 모델에는 노트북보다 많은 것이 필요하다”고 말한 이유입니다. 노트북이 사라진다는 뜻은 아닙니다. 사람의 입력, 결과 검토, 로컬 데이터, 신뢰 경계는 여전히 단말에 남을 수 있습니다. 다만 무거운 실행은 클라우드의 격리된 작업공간으로 이동합니다.

그 결과 에이전트 인프라의 중요도가 높아집니다.

  • 독립 작업공간: 여러 에이전트가 같은 파일을 망가뜨리지 않도록 격리합니다.
  • 상태 보존: 사용자가 노트북을 닫아도 작업을 계속하고 재개합니다.
  • 권한 분리: 각 작업에 필요한 파일, 네트워크, 자격증명만 허용합니다.
  • 자원 탄력성: 탐색, 테스트, 시뮬레이션에 필요한 CPU와 GPU를 잠시 늘립니다.
  • 추적과 복구: 어떤 도구를 왜 사용했고 무엇을 바꿨는지 남기고 되돌립니다.

OpenAI의 Codex 안전 운영 자료도 샌드박스, 승인정책, 네트워크 허용목록, 안전한 자격증명 저장, 에이전트 전용 로그를 핵심 통제로 제시합니다. 모델이 강해질수록 이러한 통제가 덜 필요해지는 것이 아니라, 더 많은 실행권한을 안전하게 주기 위해 중요해집니다.

인간의 주의가 가장 비싼 컴퓨팅 자원이 됩니다

현재 숙련 사용자는 여러 에이전트를 동시에 열어 일을 나눕니다. 처리량은 늘지만 사용자는 각 세션의 목표, 진행상태, 실패, 결과를 기억해야 합니다. 모델이 빨라질수록 알림과 검토 요청도 더 빠르게 쌓입니다.

OpenAI가 공개한 Symphony 사례는 이 병목을 구체적으로 보여줍니다. 회사 설명에 따르면 엔지니어들은 보통 에이전트 세션 3~5개까지는 관리할 수 있었지만 그 이상에서는 맥락 전환으로 생산성이 떨어졌습니다. 에이전트가 느려서가 아니라 빠른 에이전트를 사람이 계속 감독해야 했기 때문입니다.

Symphony는 세션 대신 업무 티켓을 중심에 놓았습니다. 사람이 에이전트 창을 일일이 열고 관리하는 대신, 작업보드가 실행의 제어면이 됩니다. 열린 과제에는 에이전트가 붙고, 막힌 과제는 기다리며, 실패하면 재시작하고, 결과가 준비되면 사람이 검토합니다. OpenAI는 일부 팀에서 적용 초기 3주 동안 병합된 풀리퀘스트가 500% 늘었다고 발표했습니다. 회사 내부 사례이므로 일반적인 생산성 향상률로 받아들이면 안 되지만, 병목을 세션 관리에서 업무 흐름으로 옮긴 설계는 재사용할 수 있습니다.

중요한 변화는 “한 사람이 에이전트를 몇 개까지 관리하는가”가 아닙니다. 사람이 모든 에이전트의 과정을 따라가야 한다는 전제 자체를 없애는 것입니다.

좋은 에이전트 시스템은 다음 순간에만 사람의 주의를 요청해야 합니다.

  • 목표가 모호하거나 이해관계가 충돌할 때
  • 외부 발송, 결제, 배포처럼 영향이 커질 때
  • 새로운 권한이나 민감정보가 필요할 때
  • 자동 검증이 실패하거나 결과가 기준선 아래일 때
  • 되돌리기 어렵거나 복구비용이 큰 행동을 앞둘 때

반대로 모든 도구 호출과 중간 생각을 알림으로 보내면 사람은 감독자가 아니라 알림 처리기가 됩니다. 모델, 하네스, 사람의 경계는 사람을 루프에 넣는 것보다 사람의 판단이 필요한 위치를 정확히 고르는 것이 중요하다고 설명한 바 있습니다.

자기개선은 모델 밖의 시스템에서 먼저 현실이 됩니다

인터뷰에서 Sottiaux는 재귀적 자기개선(recursive self-improvement)을 모델이 다음 모델을 혼자 설계하는 좁은 의미로만 보지 않습니다. 강한 모델이 자신을 실행하는 추론 인프라, 커널, 제품, 하네스를 개선하고, 그 결과 더 싸고 빠르게 작동하는 것도 시스템 수준의 자기개선이라는 설명입니다.

공개 근거도 있습니다. OpenAI는 GPT-5.6 Sol이 사람 주도의 과정 안에서 운영 커널을 다시 쓰고, 토큰 생성 실험을 수백 회 설계·실행하며, 학습 이상을 감시했다고 발표했습니다. 회사 발표 기준으로 커널 작업은 모델 서빙의 종단 비용을 20% 줄였고, 실험은 토큰 생성 효율을 15% 넘게 높였습니다.

이 성과는 중요한 초기 사례지만 무인 재귀 개선과는 다릅니다.

  1. 사람이 목표, 허용범위, 평가기준을 정했습니다.
  2. 모델이 만든 변경은 테스트와 검토를 통과해야 했습니다.
  3. 개선 대상은 모델 가중치 전체가 아니라 측정 가능한 커널과 운영 과정이 중심이었습니다.
  4. 수치는 OpenAI가 자체 시스템에서 측정해 발표한 결과이며 독립 재현 결과가 아닙니다.

그럼에도 경제적 의미는 큽니다. 모델이 모델 밖의 비용구조를 개선하면 같은 컴퓨팅으로 더 많은 작업을 처리할 수 있습니다. 사용량이 늘면 더 많은 실패와 병목을 관찰할 수 있고, 이것이 다시 개선 과제가 됩니다.

현재의 자기개선은 사람이 감독하는 시스템 피드백 루프입니다강한 모델코드·실험·가설 생성인프라 개선커널·라우팅·캐시·하네스더 싼 결과와 더 많은 경험비용↓ 속도↑ 사용량↑ 실패자료↑평가와 검증테스트·성능·안전·회귀사람의 역할목표·권한·채택·중단 승인
현재 공개된 사례에서 모델은 개선 후보를 만들고 실험을 수행하지만 목표 설정과 검증, 실제 반영은 사람 주도의 과정에 남아 있습니다.

7월 30일 OpenAI는 Luna API 가격을 80%, Terra 가격을 20% 내렸습니다. 회사는 모델 구조뿐 아니라 추론 시스템, 하드웨어 라우팅, 운영 소프트웨어, 문맥 관리, 하네스 개선이 함께 만든 결과라고 설명합니다. AI 가격을 토큰당 가격보다 성공한 결과당 비용으로 봐야 하는 이유도 여기에 있습니다. 더 적은 토큰, 더 빠른 완료, 더 높은 캐시 재사용, 더 적은 사람 개입이 합쳐져야 실제 원가가 내려갑니다.

속도와 개인화가 해결하지 못하는 문제가 남습니다

이 미래가 실현된다고 해서 모든 문제가 자동으로 풀리지는 않습니다.

기억이 많아질수록 틀린 기억의 비용도 커집니다

개인 에이전트는 사용자의 선호와 과거를 알아야 유용합니다. 그러나 오래된 목표, 잘못 추론한 취향, 다른 사람과 공유하면 안 되는 정보도 함께 쌓일 수 있습니다. OpenAI는 ChatGPT 메모리의 최신성·연속성·관련성을 개선하는 시스템을 공개했지만, 이것은 메모리가 완전히 정확하다는 뜻이 아닙니다. 사용자는 무엇을 기억하는지 보고 고치고 지울 수 있어야 합니다.

자연스러운 인터페이스가 정확한 이해를 보장하지 않습니다

음성, 표정, 화면, 과거 맥락을 함께 읽으면 상호작용은 자연스러워집니다. 동시에 모델이 사용자의 의도와 감정을 과도하게 추정할 위험도 커집니다. 부드러운 목소리와 개인화된 답변은 신뢰감을 높이지만 사실성과 권한의 근거는 아닙니다.

자동화가 늘수록 책임 경계는 더 선명해야 합니다

취약점을 자동으로 고치거나 운영 장애에 대응하는 시스템은 큰 가치를 만들 수 있습니다. 잘못된 패치를 배포했을 때 누가 멈추고, 되돌리고, 설명할지는 별개의 문제입니다. 능력이 높아졌다는 이유만으로 실행권한과 책임까지 자동으로 넓혀서는 안 됩니다.

하나의 인터페이스는 편리하지만 집중 위험도 만듭니다

대화, 업무 파일, 코드, 앱 권한, 장기 기억이 한 에이전트에 모이면 사용 편의성과 문맥 품질은 높아집니다. 반대로 장애, 계정 탈취, 잘못된 기억, 공급자 종속의 영향범위도 커집니다. 통합된 경험과 분리된 권한을 동시에 설계해야 합니다.

기업은 모델 도입보다 작업 운영체제를 다시 설계해야 합니다

이 흐름에 대응하는 첫 단계는 더 강한 모델 계약이 아닙니다. 현재의 일을 개인 에이전트형과 무인 자동화형으로 나누는 일입니다.

개인 에이전트형 업무는 연구, 기획, 창작, 의사결정처럼 중간 방향수정이 중요합니다. 좋은 결과뿐 아니라 사용자의 목표를 묻는 방식, 중요한 순간에 선택지를 보여주는 방식, 기억을 수정하는 방식이 필요합니다.

무인 자동화형 업무는 테스트, 모니터링, 자료 변환, 정해진 정책의 실행처럼 결과를 자동 검증하고 실패를 되돌릴 수 있어야 합니다. 샌드박스, 최소권한, 멱등성, 예산한도, 로그, 중단 기준이 먼저입니다.

다음으로 측정 단위를 바꿔야 합니다.

  • 초당 토큰이 아니라 검증된 결과까지 걸린 전체 시간을 측정합니다.
  • 모델 사용료가 아니라 수용된 결과 하나의 총비용을 측정합니다.
  • 에이전트 실행 수가 아니라 사람의 검토·수정·맥락 전환 시간을 측정합니다.
  • 자동화율이 아니라 심각한 실패율, 복구시간, 권한 위반을 측정합니다.
  • 기억의 양이 아니라 오래된 기억과 잘못된 개인화를 고치는 능력을 측정합니다.

마지막으로 노트북 한 대 안에서 돌아가는 데모와 운영 시스템을 구분해야 합니다. 장시간·병렬 작업이 필요하면 클라우드 실행환경과 상태 관리가 필요하고, 외부 시스템을 바꾸면 권한과 감사가 필요하며, 사람이 감독하면 주의 예산을 설계해야 합니다.

다음 변화는 모델 발표보다 제품의 연결부에서 먼저 보일 것입니다

앞으로 관찰할 신호는 벤치마크 1점 상승만이 아닙니다.

  • ChatGPT와 Codex의 공통 하네스가 실제로 어느 업무까지 통합되는가
  • 개인 메모리가 장기간 정확성과 수정가능성을 유지하는가
  • 음성·캔버스·브라우저·코드가 한 흐름에서 얼마나 자연스럽게 이어지는가
  • Fast 추론이 도구 호출이 많은 실제 업무의 종단시간을 얼마나 줄이는가
  • Ultra와 같은 병렬 에이전트가 추가 비용보다 높은 결과 품질을 만드는가
  • 클라우드 에이전트가 사용자의 노트북 없이도 권한과 상태를 안전하게 관리하는가
  • 모델이 만든 인프라 개선이 독립적으로 재현되고 다음 모델 개발까지 확장되는가
  • 기업이 사람의 감독 부담을 줄이면서도 사고율과 복구시간을 낮추는가

이 신호들이 쌓이면 AI 제품의 중심은 모델 선택창에서 작업 운영체제로 이동합니다. 사람은 여러 모델과 에이전트를 직접 관리하는 대신 목표, 위험, 최종 선택에 집중하고, 시스템이 나머지 자원과 도구를 조정하게 됩니다.

맺으며

Sottiaux의 인터뷰가 보여주는 다음 물결은 더 큰 챗봇이 아닙니다. 사용자를 이해하는 개인 에이전트와 검증 가능한 업무를 맡는 무인 작업 시스템, 이 둘을 뒷받침하는 클라우드 실행환경과 빠른 추론, 그리고 모델이 시스템의 효율을 다시 높이는 피드백 루프입니다.

모델이 빨라질수록 도구와 네트워크가 병목이 되고, 그것마저 최적화되면 인간의 주의가 병목이 됩니다. 그래서 다음 세대의 승부는 모델이 얼마나 많은 일을 할 수 있는지만으로 결정되지 않습니다.

필요한 순간에만 사람을 부르고, 나머지 시간에는 안전하게 계속 일하는 시스템을 누가 먼저 만드는가.

그 질문에 대한 답이 AI의 다음 제품 구조를 결정할 가능성이 큽니다.


주요 출처

수치와 제품 설명은 각 출처의 발표 기준입니다. OpenAI 내부 생산성, 비용절감, 사용자 행동 자료는 회사가 자체 측정한 결과이며 모든 조직에 그대로 일반화할 수 없습니다. 본문은 산업·제품 구조 분석이며 특정 기업이나 종목에 대한 투자판단을 다루지 않습니다.

YS-VC | Founder Intake Desk — Intervest