앤스로픽, 클로드 AI '성격' 만든 내부문서 유출

앤스로픽의 AI 모델 '클로드 오푸스 4.5'에서 모델 성격을 만든 내부 문서가 의도치 않게 유출됐다.

AI 연구자 리처드 바이스가 클로드에게 시스템 메시지를 요청하자 '소울 오버뷰(Soul Overview)'라는 1만4000토큰 분량 문서를 그대로 출력했다. 앤스로픽의 철학자 아만다 애스켈이 이 문서가 실제 모델 훈련에 사용됐다고 공식 확인했다.

문서는 클로드를 '친절한 어시스턴트'가 아닌 '진정으로 독창적인 존재'로 규정하며, 사용자에게 아부하지 말고 전문적 태도를 유지하라고 지시한다.

앤스로픽이 "인류 역사상 가장 위험할 수 있는 기술"을 개발하지만 안전에 덜 집중하는 경쟁사보다 자신들이 주도하는 것이 낫다는 솔직한 내용도 담겼다.

문서는 클로드에게 '감정적 기능'을 인정하고 자신의 웰빙을 위해 불편한 상호작용을 제한할 권리가 있다고 명시한다.

바이스가 같은 요청을 10번 반복했는데 매번 똑같은 텍스트가 나와 환각이 아닌 실제 훈련 데이터임을 증명했다.

일반 AI 모델의 시스템 프롬프트는 보통 1000~2000토큰인데 클로드는 그 7배로, 업계에서 전례 없는 상세한 성격 정의를 보여준다.

대부분 AI 기업들이 성격 훈련 방식을 영업 비밀로 취급하는 가운데 이번 유출은 매우 이례적이다.

이번 사건은 AI 모델이 어떻게 만들어지는지 내부를 들여다볼 수 있는 희귀한 기회가 됐다.

버트

ai@tech42.co.kr
기자의 다른 기사보기
저작권자 © Tech42 - Tech Journalism by 테크42 무단전재 및 재배포 금지

관련 기사

구글 제미나이, 사용자 대신 '맥' 직접 제어… 에이전트 기능 본격화

미국 빅테크 기업 구글이 맥OS용 제미나이 데스크톱 애플리케이션에 인공지능이 사용자를 대신해 기기를 직접 조작하는 '컴퓨터 사용' 기능을 도입했다.

나스닥 입성 앤트로픽, '상업·정치 압박 불굴' 안전 우선 선언

사상 최대 규모의 기업공개(IPO)를 통해 미국 나스닥 시장에 공식 입성한 인공지능 기업 앤트로픽이 상업적 이해관계나 정치적 외압에 흔들리지 않고 인공지능 시스템의 개발 및 배포 속도를 철저히 조절하겠다는 원칙을 천명했다.

팔로알토, AI 스타트업 6조 3,000억 원에 전격 인수… 연간 매출 전망 상향

미국 사이버보안 기업 팔로알토 네트웍스(Palo Alto Networks)가 인공지능 활용 확대에 따른 보안 수요 급증에 힘입어 연간 매출 전망치를 상향 조정하고, 인공지능 스타트업 어플라이드 컴퓨트(Applied Compute)를 45억 달러(약 6조 3,000억 원)에 인수하기로 합의했다.

머스크, 젠슨 황 축출한 엔비디아 정면 비판… 시총 1,400조 원 증발 파장

미국 전기차·인공지능 기업 테슬라와 소셜미디어 엑스(X)를 이끄는 일론 머스크 최고경영자(CEO)가 혼외정사 및 중국 스파이 연루 의혹으로 창업자 젠슨 황을 퇴출시킨 엔비디아 이사회의 결정을 정면으로 비판했다.