앤트로픽이 전 세계 AI 개발을 잠시 멈춰야 한다고 공개적으로 촉구하고 나섰다. 회사 산하 연구기관인 앤트로픽 인스티튜트는 보고서를 통해 AI 스스로 발전하는 속도가 이를 통제할 안전장치보다 훨씬 빠르게 달리고 있다고 경고했다.

보고서가 가장 우려하는 것은 '재귀적 자기개선(recursive self-improvement)'이다. 쉽게 말해 AI가 사람 손을 빌리지 않고 스스로를 더 똑똑하게 업그레이드하는 단계인데, 앤트로픽은 이 시점이 생각보다 훨씬 빨리 올 수 있다고 봤다.

실제로 앤트로픽의 내부 통계를 보면 이미 심상치 않다. 2026년 5월 기준으로 자사 시스템에 반영된 코드의 80% 이상을 클로드가 직접 작성했는데, 2025년 2월 클로드 코드 출시 전만 해도 이 비율은 한 자릿수에 불과했다. 개발자 생산성도 가파르게 올랐다. 앤트로픽 엔지니어 한 명이 하루에 처리하는 코드 양은 2024년보다 8배 늘었고, 일부 내부 벤치마크에서는 클로드의 코드 최적화 속도가 숙련된 엔지니어(최대 4배)를 훌쩍 넘는 52배를 기록하기도 했다.

앤트로픽은 재귀적 자기개선이 반드시 일어나는 것은 아니라면서도, 미국·중국 등 주요국이 동시에 합의하고 이를 서로 검증할 수 있는 국제 공조 체계 없이는 실질적인 개발 중단이 불가능하다고 지적했다.

한편 보도에 따르면 앤트로픽은 같은 날 기업공개(IPO) 서류를 비공개로 제출했으며 다니엘라 아모데이 공동창업자 겸 사장이 AI 모델 훈련을 "극도로 자본 집약적인 사업"이라고 표현해 속도 조절을 촉구하면서 동시에 상장을 추진하는 아이러니한 상황이 주목을 받았다.