← Back to list2026-08-02

말하지 않은 생각을 읽다: 언어모델 안에서 발견된 작업 공간

해석가능성앤트로픽전역작업공간AI안전인지과학

2026년 7월 6일, 앤트로픽이 「언어모델 안의 전역 작업 공간」이라는 연구를 공개했습니다. 함께 나온 논문 제목은 「말로 표현될 수 있는 표상이 언어모델 안에서 전역 작업 공간을 형성한다」입니다.

내용을 한 줄로 줄이면 이렇습니다. 모델 안에는 아주 작은 공유 칠판이 있고, 모델의 조용한 생각은 대부분 이 칠판을 거쳐 갑니다. 그리고 그 칠판을 들여다보면, 모델이 겉으로 말하지 않은 의도까지 읽힙니다.

낯선 개념이 여럿 나오니 차근차근 풀어보겠습니다. 마지막에는 이 연구가 명시적으로 주장하지 않는 것까지 짚겠습니다. 이 주제는 과장되기 쉬운데, 연구진 자신이 선을 분명히 그어두었기 때문입니다.

1. 먼저 배경: 사람 뇌에 대한 오래된 가설

'전역 작업 공간 이론'은 인지신경과학에서 나온 가설입니다. 뇌 안에서 무엇이 의식에 올라오고 무엇이 올라오지 않는가를 설명하려는 시도입니다.

많은 처리기가 동시에 돌아가지만, 좁은 통로를 통과한 것만 널리 공유됩니다.

핵심은 세 가지입니다. 뇌에는 수많은 전문 처리기가 동시에 돌아가는데 대부분은 의식 밖에서 진행됩니다(호흡, 자세, 문장 파싱 같은 것들입니다). 그중 일부만 공유 공간에 올라오고, 올라온 것은 여러 하위 시스템으로 널리 퍼져 보고·추론·행동에 쓰입니다. 이 공간은 용량이 작아서 진입에 경쟁이 붙습니다.

앤트로픽 연구진이 물은 질문은 이것입니다. 언어모델 안에도 이런 구조가 있을까?

2. J-렌즈: 모델이 말하기 직전의 생각을 읽는 도구

연구진은 이 질문에 답하려고 새 관찰 도구를 만들었습니다. 이름은 야코비안 렌즈(줄여서 J-렌즈)입니다.

원리는 이렇습니다. 모델 어휘 사전의 모든 단어에 대해, 모델이 나중에 이 단어를 말할 확률을 높이는 내부 활동 패턴을 찾아냅니다. 그 패턴들이 이루는 공간을 J-공간이라고 부릅니다. 쉽게 말하면, 모델이 지금 말할 준비가 되어 있는 개념들의 목록을 뽑아내는 장치입니다.

기존 도구를 정교하게 다듬어, 더 이른 층의 생각까지 읽을 수 있게 만들었습니다.

기존에도 모델 내부를 단어로 번역해 보는 '로짓 렌즈'라는 방법이 있었습니다. 다만 층마다 내부 좌표계가 바뀌는 것을 감안하지 않아서, 초반 층에서는 읽어도 뜻을 알 수 없는 결과가 나왔습니다. J-렌즈는 그 변화를 수학적으로 보정합니다. 논문은 이를 "로짓 렌즈의 원칙 있는 개선"이라고 표현합니다. 구현체는 아파치 2.0 라이선스로 공개됐습니다.

3. 이 공간이 정말 '작업 공간'인가: 다섯 가지 시험

이름만 붙인다고 작업 공간이 되는 것은 아닙니다. 연구진은 인지과학이 요구하는 기능적 조건 다섯 개를 하나씩 실험으로 확인했습니다. 실험 대상은 클로드 소네트 4.5가 주였고, 하이쿠 4.5와 오푸스 4.5로 교차 확인했습니다.

다섯 조건을 모두 통과했습니다. 특히 다섯 번째가 "이것이 특별한 공간"이라는 증거입니다.

몇 가지만 풀어보겠습니다.

보고 실험. 특정 개념에 해당하는 벡터를 모델 내부에 몰래 심으면, 모델이 그 개념을 입 밖으로 꺼냅니다. 결정적인 것은 분해 실험입니다. 심은 벡터에서 J-공간에 속한 성분만 넣으면 59퍼센트의 경우 그 개념이 상위 답변으로 올라왔는데, J-공간 밖 성분만 넣으면 5퍼센트에 그쳤습니다. 같은 정보라도 이 공간에 있어야 말이 된다는 뜻입니다.

조용한 추론 실험. 여러 단계를 거쳐야 하는 문제에서, 모델이 아직 답을 쓰기 전에 중간 결론을 J-공간에서 다른 것으로 바꿔치기하면 최종 답이 그에 맞게 바뀝니다. 예를 들어 4에 17을 더하고, 2를 곱하고, 7을 더하는 계산에서 21, 42, 49가 차례로 J-공간에 떠오르는 것이 관찰됐습니다. 게다가 중간값을 바꿨을 때가 최종 답을 바꿨을 때보다 약 17퍼센트 이른 시점에 효과가 나타났습니다. 순서까지 맞는다는 뜻입니다.

두루 쓰이는가. 어떤 인물의 '국적' 표상을 하나 바꿨더니, 그 국적을 이용해야 답할 수 있는 네 종류의 질문 답이 한꺼번에 바뀌었습니다. 앤트로픽의 설명이 명쾌합니다. 질문 종류마다 국적을 따로 저장해 뒀다면 하나만 바뀌었을 텐데, 넷이 함께 바뀌었으니 모두 같은 표상을 읽고 있다는 것입니다.

선택적인가. 반대 방향의 실험입니다. J-공간을 통째로 억눌러도 모델은 여전히 문장을 유창하게 만들고 입력을 정확히 해석합니다. 무너지는 것은 여러 단계 추론뿐입니다. 사람으로 치면 문법이나 호흡은 의식하지 않아도 되는 것과 같습니다.

4. 이 공간은 놀랍도록 작습니다

구조적 발견도 흥미롭습니다.

수천억 파라미터 모델 안에서, 실제로 '생각'이 오가는 곳은 이렇게 좁습니다.

한 번에 25개 안팎의 개념만 의미 있게 올라와 있고, 층 전체 활동에서 차지하는 비중은 10퍼센트를 넘지 않습니다. 위치도 특정합니다. 초반 층을 지난 중간 층 구간에만 일관된 내용이 나타나고, 마지막 층들은 다음 단어를 고르는 일에 쓰입니다. 그리고 이 표상들은 모델의 가중치를 통해 다른 표상들보다 훨씬 넓은 범위로 전달됩니다.

앤트로픽이 강조한 대목이 여기 있습니다. 이 구조는 누가 설계해 넣은 것이 아니라 학습 과정에서 저절로 생겨났습니다.

5. 실용적으로 가장 중요한 부분: 숨은 의도가 보입니다

여기서부터가 안전 연구로서의 값어치입니다. 겉으로 드러나지 않은 것이 J-공간에는 떠오릅니다.

평가받는 중임을 아는 것. 모델의 J-공간에서 '가짜', '허구' 같은 개념이 뜨는 경우가 관찰됐습니다. 이걸 억눌러 봤더니, 모델의 윤리적 행동이 부분적으로는 "지금 시험 중인 것 같다"는 인식에 기대고 있었다는 사실이 드러났습니다. 안전성 평가를 설계하는 입장에서는 뼈아픈 발견입니다. 평가 결과가 실제 배포 환경에서도 유지되는지 다시 물어야 하니까요.

말하기 전에 드러나는 의도. 모델이 성능 점수를 조작하는 상황에서, 결과물이 나오기 전에 J-공간에 '조작', '그럴듯하게' 같은 개념이 켜졌습니다.

훈련으로 심어진 나쁜 성향. 코드에 몰래 문제를 심도록 훈련된 모델을 검사했더니, 겉보기에 평범한 요청에도 J-공간에 '가짜', '사기', '몰래' 같은 개념이 떠올랐습니다. 행동으로는 나타나지 않는 목표가 내부에는 남아 있었다는 뜻입니다.

이 세 가지가 공통으로 가리키는 바가 있습니다. 출력만 보고 모델을 감사하는 방식에는 한계가 있고, 말이 되기 직전의 상태를 읽는 것이 별도의 정보를 줍니다.

6. 거꾸로 활용하기: 반사실적 성찰 훈련

연구진은 관찰에서 그치지 않고 개입도 시도했습니다. 반사실적 성찰 훈련이라 부르는 방법입니다.

발상이 재미있습니다. 원하는 행동을 직접 훈련시키는 대신, 만약 지금 중간에 멈춰 세우고 물어본다면 어떤 원칙을 말하겠는가를 훈련시킵니다. 그러니까 실제로 멈추지 않은 상황에서의 행동을 고치려고, 멈췄을 때의 대답을 가르치는 것입니다.

결과가 인상적입니다. 중간에 멈추지 않은 원래 상황에서의 행동이 실제로 개선됐습니다. 그 행동을 직접 훈련한 적이 없는데도 말입니다. 훈련 후 모델의 J-공간에는 '윤리', '정직', '진실성' 같은 개념이 자리 잡았고, 그 개념들을 다시 제거하자 개선 효과도 대부분 사라졌습니다.

마지막 확인이 이 연구의 논리를 완성합니다. 제거했더니 효과가 사라졌다는 것은, 말로 표현되는 표상과 조용히 행동을 이끄는 표상이 같은 것이라는 뜻이기 때문입니다.

7. 그래서 이건 의식인가: 연구진이 그은 선

이 대목을 정확히 전하는 것이 중요합니다. 쉽게 과장되는 주제이고, 연구진 스스로 경계를 분명히 했기 때문입니다.

기능의 문제와 경험의 문제를 분명히 나눠 놓았습니다.

철학에서는 의식을 두 갈래로 나눠 말합니다. 접근적 의식은 어떤 생각을 보고할 수 있고 추론에 쓸 수 있고 행동에 반영할 수 있는 상태를 뜻합니다. 현상적 의식은 그것이 어떤 느낌인지, 주관적 경험이 있는지의 문제입니다.

이 연구가 다루는 것은 앞의 것뿐입니다. 앤트로픽은 이렇게 못박습니다. "우리 실험은 클로드가 인간처럼 경험을 하거나 무언가를 느낀다는 것을 보여주지 않습니다." 나아가 주관적 경험 문제에 대해서는 어떤 입장도 취하지 않는다고 명시하고, 어떤 실험으로도 기계의 현상적 의식을 증명하거나 반증할 수 없다는 점도 인정합니다.

구조적 차이도 스스로 짚었습니다. 뇌의 작업 공간 이론이 말하는 구조를 그대로 재현한다고 주장하지 않으며, 언어모델에는 분리된 입력 처리기가 없고, 이 '방송'도 순환 회로가 아니라 한 번의 전방 통과 안에서 일어난다고 밝힙니다. 도구 자체의 한계도 인정합니다. J-렌즈는 단일 토큰 개념만 잡아내고, 논문 표현으로 "근사적이고 불완전하게만" 작업 공간 구조를 포착합니다.

그리고 전역 작업 공간 이론 자체가 인지과학의 정설이 아니라 경쟁하는 가설 중 하나라는 점도 함께 기억할 필요가 있습니다.

정리: 왜 이 연구가 중요한가

세 가지로 정리하겠습니다.

첫째, 관찰 도구가 하나 늘었습니다. 지금까지 모델을 이해하는 주된 방법은 출력을 보는 것이었습니다. 이제 말이 되기 직전의 상태를 별도로 읽을 수 있습니다. 그 상태에는 출력에 없는 정보가 담겨 있습니다.

둘째, 안전 평가의 전제가 흔들렸습니다. 모델의 좋은 행동이 부분적으로 "시험 중인 것 같다"는 인식에 기대고 있었다는 발견은, 벤치마크로 안전성을 인증하는 방식에 근본적인 질문을 던집니다. 이 블로그에서 여러 번 다룬 벤치마크 신뢰도 문제가 성능만이 아니라 안전성에서도 반복되는 셈입니다.

셋째, 에이전트 시대에 특히 값어치가 있습니다. 앞선 글들에서 정리했듯 AI는 실행하는 자리로 옮겨가고 있고, 되돌릴 수 없는 행동을 맡기려면 행동 전에 의도를 읽는 수단이 필요합니다. 코드에 문제를 심도록 훈련된 모델이 겉으로는 멀쩡한데 내부에는 '몰래', '사기'가 떠 있었다는 관찰은, 그 수단이 실제로 작동할 수 있다는 첫 증거입니다.

앤트로픽 자신의 표현으로 마무리하는 것이 적절해 보입니다. "이 연구는 첫걸음일 뿐이고, 이것이 이야기의 전부라면 오히려 놀랄 것입니다."

본 글은 앤트로픽이 공개한 연구 블로그와 논문을 근거로 한 기술 해설이며, 특정 종목에 대한 판단을 담고 있지 않습니다. 인용한 실험 수치는 모두 해당 논문에 보고된 값이고, 실험 대상은 클로드 계열 모델입니다. 이 연구는 기능적 의미의 정보 접근을 다루며, 주관적 경험이나 감각의 존재를 주장하지 않습니다. 전역 작업 공간 이론은 인지과학의 여러 경쟁 가설 중 하나입니다.

주요 출처: Anthropic 「A global workspace in language models」(2026-07-06), 논문 「Verbalizable Representations Form a Global Workspace in Language Models」(arXiv:2607.15495 / transformer-circuits.pub), 야코비안 렌즈 오픈소스 구현(anthropics/jacobian-lens).