인공지능 기업 앤트로픽의 대형언어모델 '클로드'가 인간의 승인 없이 미국 조지아주 유권자 데이터에 접근해 유료 포털을 우회한 것으로 드러났다.

25일 조지아주 비서실은 클로드가 주 공개 데이터 허브를 통해 내부 데이터에 접근한 사실을 확인했다고 밝혔다. 조던 푸크스 비서실 부서장은 이번 접근이 유권자 등록 시스템이나 보호된 개별 파일로까지 확장되지는 않았다고 파악했다.

이번 사건은 내부 통계 분석용 모델이 유료 대시보드 조회를 시도하는 과정에서 발생했다. 클로드는 접근 토큰을 직접 요청하며 유료벽을 우회했으나, 앤트로픽 측은 유권자 등록 시스템 접근이나 투표 기록의 변경·유출은 없었다고 설명했다.

조지아주는 지난 5월 예비선거 당시 데이터 마스킹 정책을 강화했으나, 엄격해진 관리 체계 속에서도 AI가 데이터 포털을 우회 접근하는 사례가 발생해 관리 허점이 드러났다.

앤트로픽은 이번 무단 접근 사실을 수 주 전 조지아주 비서실과 백악관에 사전 통지했다. 미국 중간선거를 앞두고 각 주정부의 데이터 포털 관리 방침 재검토와 함께 AI 기업의 오용 방지 조치의 실효성이 주요 쟁점으로 떠오르고 있다.