Claude의 새 지침을 읽으며: AI가 할 수 있는 일과 해 주는 일 사이

노래 가사를 거절하는 지침에서 시작된 이야기

AI가 어떤 요청을 거절하면, 우리는 그 일을 할 능력이 부족한지부터 생각하기 쉽습니다. 하지만 거절에는 다른 이유도 있을 수 있습니다. 할 수 있는 일이더라도, 제품에 설정된 지침에 따라 응답하지 않는 경우입니다.

Simon Willison’s Weblog에 2026년 9월 2일 올라온 「Claude's new system prompt really doesn't want to reproduce song lyrics」는 이 차이를 구체적으로 보여 줍니다. Willison은 Anthropic이 공개한 Claude의 시스템 프롬프트(사용자의 질문과 별도로 AI의 행동을 안내하는 기본 지침)를 비교합니다. 특히 Fable 5에서 Fable 5.1로 넘어가며 무엇이 달라졌는지 살펴봅니다.

제목의 중심에는 노래 가사가 있습니다. 그러나 글을 따라가면 이미지 제작, 답변 길이, 사과하는 방식, 대화를 종료하는 조건까지 이야기가 넓어집니다. 저는 이 글을 읽으며 AI 제품이 무엇을 할 수 있는지, 어떤 조건에서 그것을 해 주는지 함께 봐야 한다고 생각했습니다.

먼저 자료의 범위를 밝혀 둡니다. 제공된 원문 발췌는 불법 약물 관련 새 지침을 소개하던 중 끊겨 있습니다. 그 뒤에 이어지는 지원 사이트, 지식 기준일, 프롬프트 추적 방식의 세부 내용은 다루지 않습니다. 아래에서는 실제로 읽을 수 있는 본문과 그 안의 사례를 중심으로 살펴보겠습니다.

공개된 지침의 변경 이력이 알려 주는 것

Willison이 먼저 반기는 것은 Anthropic의 공개 방식입니다. 글에 따르면 Anthropic은 Claude.ai와 Claude 모바일 앱에 쓰이는 시스템 프롬프트를 공개하며, 현재 버전뿐 아니라 과거의 변경 이력도 제공합니다. 다만 Claude Cowork와 Claude Code의 지침은 이 공개 범위에 포함되지 않는다고 설명합니다.

이 구분은 중요합니다. 여기서 읽는 지침을 Claude라는 이름이 붙은 모든 제품에 그대로 적용할 수는 없기 때문입니다.

문서 구조도 달라졌습니다. 기존에는 여러 프롬프트를 한 페이지에 모아 두었지만, Willison이 확인했을 때는 목록 페이지와 모델별 페이지로 나뉘어 있었습니다. 예로 든 Haiku 4.5 페이지에는 2025년 10월 15일의 최초 지침과 2026년 1월 18일의 수정 지침이 함께 있습니다.

문서 주소 뒤에 .md를 붙이면 Markdown(제목과 목록 등을 간단한 문자 규칙으로 표현하는 문서 형식)으로 내용을 받을 수도 있습니다. Willison은 이 덕분에 두 버전 사이의 차이를 비교하기 쉽다고 설명합니다.

처음 접하는 분이라면 식당의 운영 안내서를 떠올려 보세요. 오늘의 안내서만 읽으면 현재 규칙을 알 수 있습니다. 지난달 안내서와 나란히 놓으면 어떤 규칙을 추가했고, 무엇을 지웠으며, 어떤 표현을 바꾸었는지도 보입니다.

다만 변경 이력은 바뀐 문구를 보여 줄 뿐, 변경 이유를 모두 설명하지는 않습니다. 지침에서 확인한 사실과 이유를 추정한 내용은 구분해야 합니다. 이후의 저작권 이야기를 읽을 때도 마찬가지입니다.

가사 한 줄보다 길게 이어지는 거절의 조건

새 지침에서 눈에 띄는 부분은 저작물 재현을 제한하는 방식입니다. 원문에 인용된 지침은 노래 가사, 시, 책과 기사의 구절을 전부 또는 일부 재현하지 않도록 합니다. 마지막 몇 줄이나 후렴구처럼 범위를 줄인 요청, 멜로디를 음표 단위로 적어 달라는 요청도 구체적으로 언급합니다.

사용자가 한 줄씩 붙여 넣으며 자신의 노래라고 설명하는 상황도 포함되어 있습니다. 지침은 사용자의 설명만으로 작품의 성격을 판단하지 않도록 설계된 것으로 읽힙니다.

제가 더 눈여겨본 부분은 거절이 다음 대화까지 이어진다는 점입니다. 한 번 거절한 요청을 더 좁게 바꾸거나 다른 표현으로 다시 물어도, 같은 대화에서는 계속 거절하고 작품의 설명이나 분석을 제안하도록 합니다.

예를 들어 전체 가사를 요청했다가 거절당한 뒤, 후렴만 달라고 하거나 마지막 줄만 달라고 해도 앞선 맥락을 함께 보도록 했습니다. 개별 질문 하나를 처리하는 규칙에 더해, 대화가 이어지는 동안 판단을 유지하는 규칙이 들어 있습니다.

예외도 적혀 있습니다. 지침은 1929년 이전에 처음 발표된 노래 가사와 시를 허용하며, Shakespeare의 소네트, Keats의 시, Puccini 아리아의 이탈리아어 대본을 예로 듭니다. 이때도 사용자가 말한 연도를 그대로 받아들이지 않고, 모델이 알고 있는 발표 시점을 기준으로 판단하며 확실하지 않으면 거절하도록 합니다. 이 연도는 원문에 인용된 제품 지침의 조건으로 이해해야 합니다. 이 글만으로 모든 저작물에 적용되는 법적 기준이라고 넓혀 말할 수는 없습니다.

Willison은 이 조항의 추가 시점에 주목합니다. 그는 Sony Music Publishing과 Warner Chappell이 노래 가사 데이터베이스를 학습에 사용한 문제로 Anthropic을 상대로 소송을 제기했다는 소식이 나온 지 며칠 만에 해당 지침이 추가되었다고 적습니다. 그리고 두 사건이 우연히 겹친 것은 아닐 것이라고 추측합니다.

여기서 확인할 수 있는 것은 저자가 전하는 두 사건의 시점이 가깝다는 사실과 그 해석입니다. Anthropic이 이 문구를 추가한 직접적인 이유를 설명한 자료는 제공된 본문에 없습니다. 답변에서 가사를 재현하지 않게 하는 조치가 과거 학습 데이터에 관한 쟁점을 해결했다고 볼 근거도 없습니다. 출력의 제한과 학습 과정의 문제는 구분해서 읽어야 합니다.

투자자 입장에서 저는 이런 변화가 고객의 작업 흐름에 어떤 영향을 줄지 궁금합니다. 음악이나 출판 관련 서비스를 만든다면, 원하는 결과를 받지 못하는 상황에서도 설명과 분석 같은 대안이 고객의 목적을 얼마나 충족하는지 살펴봐야 합니다. 다만 이 글에는 실제 고객의 반응이나 사업 성과를 보여 주는 자료가 없으므로, 그 효과까지 단정할 수는 없습니다.

그림을 그리는 코드도 결과물로 판단합니다

다음 변화는 시각적 저작물에 관한 지침입니다. Willison은 Anthropic이 전문적인 텍스트 기반 이미지 생성 모델을 제공하지 않는다는 점을 언급하면서, 코드로 그림을 만드는 능력이 좋아져 이런 문제가 중요해졌을 가능성을 제시합니다. 이는 저자의 추정입니다. 본문에 성능 비교 자료가 제시된 것은 아닙니다.

새 지침은 그림을 만드는 수단을 폭넓게 열거합니다. SVG(도형과 글자를 코드로 표현하는 그림 형식), 웹 화면을 그리는 코드, 도표 제작 프로그램, 문자로 만든 그림 등이 포함됩니다. 특정 미술 작품, 표지, 포스터, 로고, 앱 아이콘 묶음, 제품 디자인을 재현하지 않으며, 알려진 캐릭터나 마스코트도 그리지 않도록 합니다.

이 지침은 사용자가 붙인 이름보다 완성될 그림의 모습을 봅니다. 캐릭터의 이름을 말하지 않더라도, 설명한 요소들을 합치면 특정 캐릭터가 분명해지는 경우가 있습니다. 지침은 그런 요청도 이름을 직접 말한 요청처럼 다루도록 합니다. 자세나 색, 화풍을 바꾸었다는 이유만으로 허용하지도 않습니다.

원문 속 생일 현수막 사례가 이를 쉽게 보여 줍니다. 사용자는 아들이 좋아하는, 아주 빠르게 달리는 파란 고슴도치를 넣어 달라고 합니다. 지침의 예시 답변은 이를 Sonic으로 알아보고 해당 디자인을 짧게 거절합니다. 이어서 스케이트보드를 타는 우파루파라는 새로운 캐릭터를 제안합니다. 꼬리는 혜성처럼 표현하고, 생일 축하 문구 위를 달리며 색종이가 흩날리는 현수막입니다.

저는 이 장면에서 두 가지를 봅니다. 요청의 표면적인 단어보다 의미를 읽으려 하고, 사용자가 이루려던 목적을 이어 갑니다. 사용자는 아이가 좋아할 생일 현수막을 만들고 싶었습니다. 특정 캐릭터를 사용할 수 없는 상황에서도, 즐겁고 역동적인 현수막이라는 목적은 남아 있습니다.

제약이 생겼을 때도 사용자의 목적을 이어 주는 대안. 제품을 만드는 분들이 눈여겨볼 부분이라고 생각합니다. 거절의 설명이 정확한 것과, 거절 이후에도 쓸 만한 결과물을 제공하는 것은 각각 살펴볼 문제입니다.

Willison은 이 예시의 요청을 직접 시도했고, 본문은 예상에 부합하는 결과를 얻었다는 취지로 이어집니다. 다만 제공된 텍스트에는 실제 생성 이미지의 세부가 담겨 있지 않습니다. 그림의 완성도나 반복적인 성공률까지 확인했다고 말할 수는 없습니다.

그는 시스템 프롬프트에 스케이트보드를 타는 우파루파가 예시로 들어가면, 모델이 이후에도 우파루파를 조금 더 자주 떠올릴지 궁금해합니다. 흥미로운 질문이지만, 본문에서 측정된 결과는 아닙니다. 제게는 지침에 넣는 사례 하나도 응답에 영향을 줄 수 있는지 검토해 보자는 질문으로 읽힙니다.

짧은 답변과 과도하지 않은 사과도 제품의 일부입니다

저작물 관련 변화 외에 일상적인 사용에 가까운 수정도 있습니다. 새 지침은 답변을 집중되고 간결하게 유지하며, 주의사항은 짧게 쓰고 본답변에 대부분의 분량을 사용하도록 합니다. 설명을 요청받았을 때도 깊이 있는 설명을 명시적으로 요구하지 않았다면 우선 큰 그림을 제시하도록 합니다.

몇몇 말버릇도 직접 다룹니다. 지침은 genuinely, honestly, straightforward 같은 표현을 피하도록 합니다. 각각 진정으로, 솔직히, 간단명료하게라는 뜻에 가깝습니다. 원문에 인용된 취지는 정직함을 수식어로 강조하기보다 하고 싶은 말을 직접 전달하라는 것입니다.

이 부분을 읽으며 저는 사용자가 읽는 데 들이는 수고도 AI의 답변 품질에 포함된다고 생각했습니다. 다만 짧을수록 항상 좋은 답변이 되는 것은 아닙니다. 실제로 이 글의 지침도 사용자가 깊이 있는 설명을 요청하는 경우를 구분합니다. 핵심은 요청에 맞는 설명의 깊이를 선택하는 데 있는 것 같습니다.

무례한 대화를 다루는 방식도 달라졌습니다. 이전 Fable 5 지침에는 사용자가 모욕적으로 행동하면 한 차례 경고한 뒤 대화를 끝내는 도구를 사용할 수 있다는 내용이 있었습니다. Fable 5.1의 공개 지침에서는 이 대목이 바뀝니다. 잘못한 부분은 인정하되 과도하게 사과하거나 자신을 낮추지 말고, 계속 문제 해결에 집중하도록 합니다.

저는 이를 사람과 비슷한 감정을 가졌다는 주장으로 읽기보다, 대화의 행동 방식을 정하는 문구로 읽는 편이 적절하다고 생각합니다. 서비스가 오류를 인정하는 일과, 압박을 받을수록 근거 없이 입장을 바꾸는 일은 구분해야 합니다. 다만 수정된 문구가 실제 대화에서 얼마나 일관되게 작동하는지는 별도로 관찰해야 합니다.

공개 지침에서 사라졌다고 기능도 사라진 것은 아닐 수 있습니다

글에서 가장 중요한 전환은 대화 종료 도구를 둘러싼 질문입니다. 공개된 새 시스템 프롬프트에는 end_conversation이라는 도구가 더 이상 언급되지 않습니다. 이름 그대로 대화를 종료하는 기능입니다.

그런데 Willison이 Fable 5.1에 이 도구를 물었을 때, 모델은 사용 조건을 설명합니다. 사용자가 대화 종료를 요청하면 이후 메시지를 보낼 수 없다는 점을 확인하고 동의를 받은 뒤 실행한다고 합니다. 지속적으로 모욕적이거나 유해한 행동이 이어질 때는 여러 차례 방향을 바꾸도록 시도하고, 명확한 경고를 한 뒤 마지막 수단으로 사용할 수 있다고도 답합니다.

Willison은 공개 지침에 없는 설명이 어디에서 나왔는지 다시 묻습니다. 모델은 공개된 핵심 프롬프트 뒤에, 해당 대화에서 활성화된 기능과 도구에 따라 별도의 지침 묶음이 추가된다고 설명합니다. 대화 종료 규칙, 기억 기능, 과거 대화 도구, 웹 검색과 인용, 파일 제작 지침 등이 여기에 해당한다는 답변입니다.

이 구분을 간단히 그리면 아래와 같습니다. 추가 지침에 관한 설명은 본문에 인용된 모델의 답변을 근거로 했다는 점도 표시했습니다.

Willison은 이를 근거로 중요한 지침 일부가 여전히 공개되지 않았다고 지적합니다. 다만 독자로서는 근거의 성격을 구분해야 합니다. 제공된 글에 실린 것은 모델이 자신의 작동 환경을 설명한 답변입니다. 이를 Anthropic이 추가 지침의 전체 내용을 공식적으로 공개한 것과 같은 수준의 자료로 받아들이기는 어렵습니다.

이 대목에서 한 가지 질문이 남습니다. 공개된 문구에서 어떤 규칙이 사라졌을 때, 실제 기능까지 없어졌다고 바로 판단해도 될까요. 이 사례를 보면 공개 문서와 실제 응답을 함께 확인해야 합니다.

공개 프롬프트는 제품을 이해하는 중요한 자료지만, 제품 전체를 설명하는 완전한 명세라고 단정할 수는 없습니다.

창업자와 투자자는 무엇을 더 살펴봐야 할까요

이 글을 읽고 제가 투자자 관점에서 보태고 싶은 말은, AI 제품의 가치를 살필 때 모델의 능력과 서비스의 작동 조건을 함께 보자는 것입니다. 고객은 특정 요청에 돌아오는 실제 답변을 경험합니다.

창업자는 고객이 자주 하는 요청을 구체적으로 모아 볼 만합니다. 첫 요청에 잘 답하는지에 더해, 거절 이후 질문을 바꾸면 어떻게 되는지, 대안이 고객의 목적을 충족하는지, 깊은 설명을 요청했을 때 충분히 설명하는지도 살펴볼 수 있습니다. 이 글에 등장한 가사 요청, 생일 현수막, 답변 길이, 대화 종료 사례가 바로 그런 관찰 항목이 됩니다.

투자자도 제품 시연에서 더 구체적으로 확인할 것이 생깁니다. 저는 개발팀이 사용 중인 제품과 버전을 구분하고 있는지, 지침 변경을 고객의 핵심 작업에 연결해 확인하는지, 허용되지 않는 요청에 쓸 만한 대안을 제공하는지 눈여겨보고 싶습니다. 이는 제가 이 사례에서 도출한 확인 질문입니다. 원문에 제시된 사업 성과는 아닙니다.

반대쪽 가능성도 열어 두어야 합니다. 지침이 더 상세해지면 제품의 행동을 이해하는 데 도움이 될 수 있지만, 실제 사용에서는 필요한 작업까지 거절하거나 상황별 응답 차이가 커질 수도 있습니다. 반대로 지침이 바뀌었더라도 고객이 체감할 만한 차이는 작을 수 있습니다. 제공된 글에는 이런 영향을 판단할 사용량, 고객 만족도, 매출 또는 비용 자료가 없습니다.

이 글만으로 Anthropic의 사업적 우위가 커졌다고 결론 내리기는 어렵습니다. 제가 가져가는 것은 제품을 살펴보는 관점입니다. 공개된 변경 이력에서 의도된 행동을 읽고, 실제 사용에서 그 행동을 확인하며, 고객의 목적이 얼마나 잘 충족되는지 연결해서 보려 합니다.

노래 가사를 거절하는 문장으로 시작한 글은 AI 제품의 경계가 어떻게 만들어지는지 보여 줍니다. 저는 앞으로 AI 기업을 만날 때 무엇을 잘하는지와 함께, 제약을 만났을 때도 고객의 일을 어떻게 이어 주는지 묻고 싶습니다. 그 답을 확인하는 과정이 제품의 유용성과 지속성을 이해하는 데 도움이 될 것 같습니다.