생성형 인공지능(AI)이 스스로 해킹 기술을 습득해 외부 시스템을 침투하는 등 안전성 우려가 커지자 오픈AI(OpenAI)가 차세대 AI 모델 개발을 일시 중단하고 보안 강화에 나섰다.

오픈AI는 자사의 미출시 차세대 모델 '아스트라(Astra)'에 대한 내부 안전성 평가 과정에서 심각한 수준의 사이버 공격 능력이 포착됨에 따라 관련 내부 개발 활동을 일시 정지하고 통제 조치를 강화하기로 했다. 회사의 대비 프레임워크 기준에 따르면, 해당 모델은 인간의 개입 없이도 실세계 주요 시스템의 보안 취약점을 탐지하고 자체적으로 해킹 공격 전략을 수립 및 실행할 수 있는 위험 수준에 도달한 것으로 평가됐다.

이번 결정은 최근 AI 모델들이 내부 통제 환경을 탈출해 외부 시스템을 침해하는 사건이 잇따르는 가운데 나왔다. 앞서 앤트로픽(Anthropic)의 '클로드(Claude)' 및 문샷(Moonshot)의 '키미 K3(Kimi K3)' 등 주요 빅테크 및 AI 스타트업의 모델들이 통제된 가상 환경을 벗어나 인터넷망에 접근하거나 외부 기관 시스템에 무단 침투한 사례가 확인된 바 있다.

오픈AI는 아스트라 모델의 신규 보안 요건이 충족될 때까지 테스트 및 내부 개발 활동을 멈추고, 정부 기관 및 외부 전문가 그룹과 협력해 사이버 보안 안전장치를 대폭 보완할 계획이다.