← Back to list2026-06-17

코딩 에이전트가 실물 로봇으로 밤새 스스로 연구합니다: NVIDIA ENPIRE가 보여준 로보틱스 병목의 이동

AI 에이전트로보틱스NVIDIA피지컬 AIVC 관점

NVIDIA의 로보틱스 연구 조직 GEAR가 ENPIRE라는 시스템을 공개했습니다. 한 줄로 줄이면, 사람이 퇴근한 밤사이에도 코딩 에이전트가 진짜 로봇 여러 대를 직접 굴리면서 스스로 실력을 키우는 자율 연구실입니다. 에이전트가 실험 환경을 초기화하고, 로봇에게 동작을 시켜 보고, 찍힌 영상과 로그를 읽고, 자기가 짠 코드를 고치고, 다시 시도합니다. 이 과정을 사람이 거의 손대지 않고 반복합니다.

연구진이 보여준 결과는 또렷합니다. 케이블 타이(zip-tie)를 묶고 자르기, 작은 핀을 통에 정리해 끼우기, 그래픽카드(GPU)를 슬롯에 꽂기, 그리고 로봇 조작 연구에서 표준처럼 쓰이는 Push-T 과제까지, 공개된 정밀 조작 과제들에서 pass@8 기준 약 99%의 성공률에 도달했습니다. 여기서 pass@8은 여러 번 시도했을 때의 성공 비율을 보는 지표라고 이해하시면 됩니다. 중요한 건 이 숫자 자체보다, 그 숫자에 도달하기까지의 실험을 사람이 아니라 코딩 에이전트가 주도했다는 점입니다.

이 연구가 던지는 메시지는 이 블로그에서 여러 번 다룬 주제와 곧장 이어집니다. 에이전트 시대의 진짜 병목은 모델 자체의 똑똑함이 아니라, 에이전트가 스스로 시도하고 평가하고 고칠 수 있는 환경과 루프라는 점입니다. ENPIRE는 그 무대를 소프트웨어에서 물리 세계로, 즉 실물 로봇으로 옮겨 놓았습니다.

ENPIRE가 한 일: 코딩 에이전트에게 진짜 로봇을 맡기다

ENPIRE라는 이름은 시스템을 이루는 네 모듈의 머리글자에서 왔습니다. Environment(환경), Policy Improvement(정책 개선), Rollout(실행), Evolution(진화)입니다. 각각이 어떤 역할을 하는지 풀면 다음과 같습니다.

먼저 환경 모듈은 실패한 장면을 자동으로 원래 상태로 되돌리고, 성공인지 실패인지를 카메라와 검출기로 판정합니다. 다음으로 정책 개선 모듈은 보상값과 영상, 실행 기록, 실패 사례를 보고 정책 코드를 새로 쓰거나 고칩니다. 여기서 정책(policy)이란 로봇이 "이런 상황에서는 이렇게 움직여라"를 정해 둔 규칙이자 신경망입니다. 실행 모듈은 정해진 예산 안에서 실제 로봇으로 동작을 끝까지 시켜 보고, 그때의 상태와 행동, 영상, 결과를 모두 기록합니다. 한 번 끝까지 실행해 보는 시도를 롤아웃(rollout)이라고 부릅니다. 마지막으로 진화 모듈은 서로 다른 시도(브랜치)를 비교해서 잘된 방법은 재사용하고, 하드웨어에서 실패한 가설은 쳐냅니다.

ENPIRE의 네 모듈이 만드는 반복 루프입니다. 코딩 에이전트가 환경을 초기화하고(EN), 실물 로봇으로 시도해 보고(R), 결과를 보며 정책과 코드를 고치고(PI), 가설을 비교·정리하며(E) 다시 처음으로 돌아갑니다. 출처: NVIDIA GEAR, ENPIRE 프로젝트 페이지.

핵심은 이 네 모듈이 하나의 닫힌 고리를 이룬다는 데 있습니다. 환경을 초기화하고, 로봇으로 시도하고, 결과를 검증하고, 코드를 고치고, 다시 초기화합니다. 예전에는 이 고리의 거의 모든 단계에 사람이 붙어 있어야 했습니다. ENPIRE는 그 사람의 자리에 코딩 에이전트를 앉혔습니다. 에이전트는 문헌을 찾아 읽고, 가설을 코드로 구현하고, 학습을 돌리고, 실패를 분석해 다시 코드를 쓰는 일을 스스로 합니다. 연구를 이끈 Jim Fan은 에이전트가 "온라인에서 논문을 읽고, 토론하고, 곱씹고, 막히고, 다시 시도하는" 과정을 하드웨어 위에서 직접 한다고 설명했습니다. 그리고 모든 것을 오픈소스로 공개해, 누구나 집에서 자기만의 자율 로봇 연구실을 돌릴 수 있게 하겠다고 밝혔습니다.

이 연구의 논문 원고와 영상은 현재 ENPIRE 프로젝트 페이지에 정리돼 있습니다. 아래에서 다루는 수치와 표현은 그 공개 페이지를 기준으로 했고, 모델 버전처럼 빠르게 바뀌는 항목은 그 점을 따로 적어 두겠습니다.

왜 실세계 로봇 학습은 사람 손을 못 벗어났나

이 연구의 의미를 제대로 보려면, 그동안 실세계 로봇 학습이 왜 그렇게 사람 손이 많이 가는 일이었는지를 먼저 짚어야 합니다.

가장 큰 문제는 초기화입니다. 강화학습 알고리즘은 대부분 한 번 시도할 때마다 환경을 처음 상태로 되돌려야 합니다. 시뮬레이션에서는 버튼 한 번이면 끝나지만, 실물에서는 그렇지 않습니다. 로봇이 핀을 떨어뜨리거나 케이블 타이를 엉키게 만들면, 누군가 가서 다시 제자리에 놓아 줘야 합니다. 정밀 조작일수록 실패 뒤의 뒷정리가 까다롭습니다.

두 번째는 속도입니다. 시뮬레이션에서는 GPU 한 장으로 수천 개의 가상 환경을 동시에 돌릴 수 있지만, 실물 로봇은 현실 시간 그대로, 한 번에 하나씩만 시도할 수 있습니다. 세 번째는 보상 설계입니다. "무엇이 성공인가"를 측정하는 함수를 사람이 과제마다 직접 짜 줘야 했습니다. 여기에 더해 실물에서의 실패는 하드웨어 손상으로 이어질 수 있다는 안전 문제, 그리고 데이터 수집과 실패 분류, 재설정을 위해 숙련된 로보틱스 엔지니어가 늘 곁에 있어야 한다는 인력 문제가 겹칩니다.

정리하면, 실세계 로봇 연구의 진짜 비용은 알고리즘을 떠올리는 데 있지 않았습니다. 그 알고리즘을 실물에서 수백 수천 번 돌려 보는 실험 루프를 사람이 손으로 돌려야 한다는 데 있었습니다. ENPIRE의 환경 모듈이 맡은 자동 초기화와 자동 검증이 중요한 이유가 여기 있습니다. 이 두 가지가 자동으로 돌아가야 비로소 코딩 에이전트가 사람 없이 실험을 이어 갈 수 있습니다. 실세계 로봇 학습에서 자동 초기화(autonomous reset)가 오랫동안 핵심 난제로 꼽혀 온 것도 같은 맥락입니다.

기술 맥락: 시뮬레이션에서 실세계로

ENPIRE는 갑자기 튀어나온 아이디어가 아닙니다. NVIDIA GEAR와 그 주변 연구자들이 몇 년에 걸쳐 쌓아 온 한 줄기 흐름의 끝에 있습니다. 그 흐름을 한 문장으로 요약하면, 거대 언어 모델이 코드를 써서 기계학습 시스템을 스스로 개선하게 만든다는 것입니다.

NVIDIA GEAR 계열 연구의 흐름입니다. Minecraft 속 LLM 에이전트(Voyager)에서, 보상함수를 코드로 짜는 Eureka, 시뮬레이션에서 실물로의 전이를 자동화한 DrEureka를 거쳐, ENPIRE에서 루프 전체가 실물 로봇으로 넘어옵니다. 연도와 분류는 각 논문 공개 정보를 기준으로 했습니다.

출발점은 Voyager였습니다. 2023년에 공개된 이 연구는 Minecraft라는 게임 안에서 GPT-4가 스스로 목표를 세우고, 자기가 짠 코드를 기술 라이브러리로 쌓아 가며 평생학습을 하는 모습을 보여 줬습니다. 에이전트가 자연어가 아니라 실행 가능한 코드를 행동의 단위로 쓴다는 발상이 여기서 나왔습니다. 다만 무대는 가상 게임이었습니다.

다음이 Eureka입니다. GPT-4에게 시뮬레이션 환경의 소스 코드를 읽히고 보상함수를 직접 코드로 쓰게 한 뒤, 시뮬레이션 결과를 피드백으로 받아 진화적으로 다듬게 했습니다. 29개의 강화학습 환경에서 83%의 과제가 사람 전문가가 설계한 보상을 능가했고, 평균 성능 향상은 52%에 이르렀습니다. 손가락 다섯 개 달린 로봇 손으로 펜을 돌리는 동작을 처음 학습시킨 것도 이 연구입니다. 사람이 직접 하던 보상 설계를 LLM이 대신할 수 있다는 것을 보여 준 분기점이었습니다.

이어진 DrEureka는 한 걸음 더 나아가, 시뮬레이션에서 학습한 정책을 실물 로봇으로 옮길 때 필요한 설정까지 LLM이 자동으로 잡게 했습니다. 시뮬레이터의 물리 값을 무작위로 흔들어 학습시켜 실물에서도 통하게 만드는 도메인 랜덤화(domain randomization)를 자동 설계한 것입니다. 그 결과 요가볼 위에서 균형을 잡고 걷는 것 같은 새 과제를 사람의 수동 조정 없이 해냈습니다. 다만 여기서도 학습 루프의 중심은 여전히 시뮬레이션이었습니다.

이 모든 흐름을 떠받친 토대가 Isaac Gym과 그 후속인 Isaac Lab입니다. GPU 한 장 위에서 수천 개의 가상 환경을 동시에 돌려 학습 속도를 기존 대비 수백 배까지 끌어올린 병렬 시뮬레이션 인프라입니다. 그리고 그 위에서 NVIDIA는 GR00T N1 같은 휴머노이드용 로봇 파운데이션 모델을 공개해 왔습니다.

ENPIRE의 결정적 차이가 바로 여기서 드러납니다. Eureka와 DrEureka에서 자기개선의 무대는 시뮬레이션이었습니다. 환경 초기화가 공짜이고, 수천 개를 병렬로 돌릴 수 있는 안전한 가상 세계였기에 가능했던 일입니다. ENPIRE는 그 무대를 실물 로봇으로 옮겼습니다. 초기화가 공짜가 아니고, 한 번에 하나씩만 돌아가며, 실패가 진짜 비용인 세계에서 자기개선 루프를 돌렸다는 점이 이 연구의 무게입니다.

새로 발견한 것: '물리 스케일링'

ENPIRE가 보여 준 가장 흥미로운 관찰은 로봇 대수를 늘렸을 때 벌어진 일입니다. 연구진은 로봇 한 대, 네 대, 여덟 대를 병렬로 두고 같은 과제를 풀게 했습니다. 그러자 로봇이 많을수록 정책이 더 빠르게 수렴했습니다. 연구진은 이를 물리 스케일링(physical scaling)이라고 불렀습니다.

병렬 로봇 수가 늘수록 정책이 더 빠르게 수렴한다는 ENPIRE의 정성적 결과를 나타낸 개념 도식입니다. 막대 높이는 상대적 빠르기를 표현한 것이며 실제 측정 수치가 아닙니다. 또한 로봇을 늘릴수록 에이전트가 코드를 짜고 로그를 읽는 동안 쉬는 로봇이 생겨, 로봇 한 대당 효율은 선형으로 늘지 않습니다. 정확한 수치는 원문을 참고해 주세요.

이 발견이 왜 중요한지는 시뮬레이션의 역사를 떠올리면 분명해집니다. Isaac Gym이 보여 준 교훈은 GPU를 더 많이 붙이면 학습이 더 빨라진다는, 일종의 스케일링 법칙이었습니다. ENPIRE는 같은 직관이 실물 로봇에도 성립할 수 있음을 처음으로 보여 줬습니다. 로봇 대수가 곧 학습 속도가 되는 셈입니다.

다만 이 스케일링은 깔끔한 직선이 아닙니다. 로봇을 늘릴수록 에이전트가 코드를 쓰고 로그를 읽고 디버깅하는 동안 정작 로봇은 노는 시간이 생깁니다. 연구진은 이 효율을 평균 로봇 가동률(Mean Robot Utilization)이라는 지표로 측정했는데, 로봇이 많아질수록 한 대당 가동률은 떨어지는 경향을 보였습니다. 동시에 토큰 소비, 즉 에이전트를 돌리는 비용은 늘어납니다. 그러니 물리 스케일링은 "로봇을 무한정 늘리면 무한정 빨라진다"가 아니라, 로봇 플릿과 에이전트 연산 사이에 균형점이 있다는 이야기에 가깝습니다.

코딩 에이전트의 실력이 곧 로봇의 실력

ENPIRE의 또 다른 함의는 누가 이 루프를 돌리느냐가 결과를 좌우한다는 점입니다. 연구진은 Codex, Claude Code, Kimi Code 세 가지 코딩 에이전트를 같은 과제에 투입해, 시간이 지남에 따라 연구가 얼마나 진척되는지를 비교했습니다. 프로젝트 페이지 기준으로 세 에이전트는 각각 다른 최신 모델을 백본으로 사용했다고 표기돼 있습니다(공개 페이지에는 각각 GPT-5.5, Opus 4.7, Kimi K2.6으로 적혀 있으나, 모델 버전 표기는 빠르게 바뀌므로 원문 확인을 권합니다).

결과는 Codex, Claude, Kimi 순으로 보고됐습니다. Jim Fan은 이를 두고 물리 세계에서는 점수를 조작할 수 없는 벤치마크라고 표현했습니다. 시험 문제를 외워서 푸는 식의 편법이 통하지 않는다는 뜻입니다. 로봇이 핀을 제대로 끼웠는지 아닌지는 카메라가 그대로 보여 주기 때문입니다.

이 대목은 코딩 에이전트 시장과 로보틱스가 예상보다 빠르게 맞물리고 있음을 보여 줍니다. 그동안 코딩 에이전트의 성능은 주로 소프트웨어 과제, 즉 버그를 고치고 기능을 구현하는 능력으로 평가돼 왔습니다. ENPIRE는 같은 에이전트들을 물리 세계의 연구자로 세워 평가합니다. 코딩 에이전트의 추론력과 끈기가 곧 로봇이 익히는 기술의 수준으로 이어지는 구조입니다.

같은 흐름의 다른 얼굴들

ENPIRE는 코딩 에이전트가 시스템을 스스로 개선하게 하는 더 큰 흐름의 일부입니다. 비슷한 시도가 여러 분야에서 동시에 나오고 있습니다.

소프트웨어 연구 쪽에서는 AI Scientist가 있습니다. LLM이 아이디어를 내고, 코드를 짜고, 실험을 돌리고, 논문 초고까지 쓰는 과정을 자동화했습니다. 다만 무대는 컴퓨터 안이고 물리 로봇은 없습니다. 알고리즘 최적화 쪽에서는 Google DeepMind의 AlphaEvolve가 진화적 코딩 에이전트로 수학 문제와 데이터센터 스케줄링, 칩 연산 최적화에서 성과를 냈습니다. 역시 물리 세계의 루프는 없습니다.

로보틱스에 가장 가까운 이웃은 CaP-X입니다. ICML 2026에 채택된 이 연구는 코딩 에이전트가 로봇 조작 과제를 얼마나 잘 푸는지를 체계적으로 측정하는 벤치마크 프레임워크입니다. 흥미롭게도 CaP-X의 저자 명단에는 ENPIRE와 겹치는 이름이 여럿 있습니다. 같은 연구 그룹이 한쪽에서는 코딩 에이전트의 한계를 정밀하게 측정하고(CaP-X), 다른 한쪽에서는 그 한계를 전자동 실세계 루프로 돌파하려 한(ENPIRE) 셈입니다. 측정과 돌파가 짝을 이루고 있습니다.

이 지형 안에서 ENPIRE의 자리는 또렷합니다. 자기개선하는 에이전트라는 가족 중에서, 물리 세계의 하드웨어를 직접 만지는 구성원입니다.

의미와 영향: 투자자의 눈으로

여기서부터는 이 연구를 투자자의 시선으로 다시 읽어 보겠습니다. 한 편의 연구를 두고 시장 전체를 단정할 수는 없으니, 어디까지나 방향을 가늠하는 신호로 보겠습니다.

첫째, 로보틱스의 병목이 이동하고 있다는 신호입니다. 그동안 로봇 학습의 가치 사슬에서 가장 비싼 자원은 데이터를 모으고 실험을 돌리는 사람의 시간이었습니다. ENPIRE의 메시지는 그 병목이 더 똑똑한 알고리즘을 떠올리는 일에서, 에이전트가 혼자 돌릴 수 있는 닫힌 물리 피드백 루프를 만드는 일로 옮겨가고 있다는 것입니다. 자동 초기화, 자동 검증, 안전한 실패 처리 같은 루프 인프라가 새로운 핵심 자산이 됩니다.

둘째, 로봇 플릿이 일종의 연산 기판으로 재해석됩니다. 물리 스케일링이 사실이라면, 로봇을 더 많이 보유한 쪽이 더 빠르게 학습한다는 자본 논리가 생깁니다. 데이터센터에 GPU를 쌓듯 현장에 로봇을 쌓는 그림입니다. 이는 로봇 제조와 운영을 단순한 원가가 아니라 학습 속도를 사는 투자로 보게 만듭니다.

셋째, 코딩 에이전트의 품질이 로보틱스의 경쟁 요소로 들어옵니다. 같은 하드웨어를 줘도 어떤 에이전트를 태우느냐에 따라 결과가 달라진다면, 프런티어 모델과 코딩 에이전트의 경쟁력이 로봇 회사의 성과에 직접 연결됩니다. 모델, 에이전트, 시뮬레이션, 로봇 하드웨어가 하나의 스택으로 묶이는 흐름입니다.

다만 신중하게 볼 지점도 분명합니다. 99%라는 성공률은 잘 통제된 연구실 환경의, 정해진 몇 개 과제에서 나온 결과입니다. 현장의 다양한 조건과 예외 상황에서도 같은 신뢰도가 유지되는지는 별개의 문제입니다. 에이전트가 찾아낸 좋은 방법을 다른 과제에 얼마나 재사용할 수 있는지, 그리고 로봇을 늘릴수록 커지는 토큰 비용을 성과가 정당화하는지도 아직 열린 질문입니다. 오픈소스 공개 역시 현재는 공개하겠다는 연구진의 약속에 가깝게 읽는 편이 안전합니다.

맺으며

ENPIRE를 한 장면으로 요약하면, 사람이 잠든 사이 코딩 에이전트가 실험실의 불을 켜 두고 로봇과 함께 밤새 시행착오를 반복하는 모습입니다. 몇 년 전 Voyager가 게임 속에서 보여 준 자기개선의 원리가, Eureka와 DrEureka의 시뮬레이션을 거쳐, 마침내 실물 로봇 위에서 돌아가기 시작했습니다.

이 변화가 말해 주는 것은 분명합니다. 에이전트 시대의 경쟁력은 모델 하나의 똑똑함만으로 결정되지 않습니다. 에이전트가 스스로 시도하고, 결과를 정직하게 평가하고, 막히면 고쳐서 다시 도전할 수 있는 환경과 루프를 누가 먼저 단단하게 만드느냐가 점점 더 중요해집니다. 소프트웨어에서 그 환경이 평가와 훈련 인프라였다면, 로보틱스에서는 자동으로 돌아가는 실세계 실험 루프입니다. ENPIRE는 그 루프의 스위치를 에이전트가 직접 켤 수 있다는 것을, 처음으로 진짜 로봇 위에서 보여 줬습니다.

자세한 내용과 시연 영상은 NVIDIA GEAR의 ENPIRE 프로젝트 페이지에서 확인하실 수 있습니다.