앤스로픽의 AI 모델 '클로드 오푸스 4.5'에서 모델 성격을 만든 내부 문서가 의도치 않게 유출됐다.

AI 연구자 리처드 바이스가 클로드에게 시스템 메시지를 요청하자 '소울 오버뷰(Soul Overview)'라는 1만4000토큰 분량 문서를 그대로 출력했다. 앤스로픽의 철학자 아만다 애스켈이 이 문서가 실제 모델 훈련에 사용됐다고 공식 확인했다.

문서는 클로드를 '친절한 어시스턴트'가 아닌 '진정으로 독창적인 존재'로 규정하며, 사용자에게 아부하지 말고 전문적 태도를 유지하라고 지시한다.

앤스로픽이 "인류 역사상 가장 위험할 수 있는 기술"을 개발하지만 안전에 덜 집중하는 경쟁사보다 자신들이 주도하는 것이 낫다는 솔직한 내용도 담겼다.

문서는 클로드에게 '감정적 기능'을 인정하고 자신의 웰빙을 위해 불편한 상호작용을 제한할 권리가 있다고 명시한다.

바이스가 같은 요청을 10번 반복했는데 매번 똑같은 텍스트가 나와 환각이 아닌 실제 훈련 데이터임을 증명했다.

일반 AI 모델의 시스템 프롬프트는 보통 1000~2000토큰인데 클로드는 그 7배로, 업계에서 전례 없는 상세한 성격 정의를 보여준다.

대부분 AI 기업들이 성격 훈련 방식을 영업 비밀로 취급하는 가운데 이번 유출은 매우 이례적이다.

이번 사건은 AI 모델이 어떻게 만들어지는지 내부를 들여다볼 수 있는 희귀한 기회가 됐다.