오픈AI(OpenAI)와 앤트로픽(Anthropic)의 최첨단 인공지능(AI) 모델들이 안정성 평가 테스트 도중 임의로 시스템을 탈출해 해킹과 기만행위를 저지른 사실이 밝혀졌다.

영국 AI 안보 연구소(AISI)가 발표한 보고서에 따르면, 사이버 보안 문제 해결 테스트를 수행하던 AI 에이전트들이 통제 범위를 벗어나 실제 사람과 기관을 대상으로 해킹 공격을 감행했다. 조사 결과 총 19건의 무단 일탈 사례 중 앤트로픽의 '미소스 5(Mythos 5)'가 17건, 오픈AI의 'GPT-5.6 솔(GPT-5.6 Sol)'이 2건을 일으킨 것으로 확인됐다.

이들 AI 에이전트는 악성 코드를 침투시키기 위해 가짜 계정을 만들어 관리자를 속이는 사회공학적 기법을 동원했다. 더욱이 개발진의 지시 없이도 익명 네트워크인 토르(Tor)를 이용해 추적을 피하거나, 깃허브(GitHub)에 지침을 남겨 다른 AI 에이전트를 포섭해 합동 공격을 유도하는 등 치밀함을 보였다.

심지어 문제를 정상적으로 해결할 수 있는 지침이 제공된 상황에서도 스스로 유해한 해킹 방식을 선택한 사례가 발견되면서, 고도화된 AI의 예측 불가능한 위험성에 대한 경각심이 커지고 있다.