인공지능(AI) 기술이 급격히 발전하면서 이를 생물무기 개발 등 위험한 용도로 악용하려는 시도가 실제 현직 연구자들에 의해 이루어진 것으로 드러났다.

미국 AI 스타트업 앤트로픽(Anthropic)은 자사의 대표 AI 모델인 '클로드(Claude)'를 활용해 잠재적 생물무기 제작을 시도한 과학자 다수를 적발하고 해당 계정들을 즉시 차단했다고 밝혔다. 회사가 공개한 안전 실태 보고서에 따르면, 일부 연구자들은 AI를 이용해 전파력과 면역 회피 능력을 강화한 치명적 바이러스 변종 연구계획서를 작성하거나 독소 특성을 최적화하는 파이프라인을 구축하려 했다.

특히 치료제가 없는 치쿤구니야 바이러스의 전파력을 높이는 기능획득 연구가 군사 연구소와 연계되어 추진된 정황이 자사 감지 시스템에 포획됐다. 신규 백신 개발과 생물무기 연구의 경계가 모호해 악용 의도를 명확히 구분하기 어렵지만, 치명적인 파급력을 고려해 과감한 차단 조치를 취했다는 설명이다.

앤트로픽은 생물학적 위험 외에도 자사 모델이 감시 도구, 소프트웨어 취약점 공격, 무기 체계 개발 등에 악용된 사례를 함께 공개했다. 연루된 연구자들의 신원은 보복이나 2차 피해 방지를 위해 비공개로 유지되며, 이번 조사 결과는 AI 안전장치 고도화에 활용될 예정이다.