인공지능(AI)이 스스로 보안 취약점을 찾아내고 이를 공격할 수 있는 무기까지 직접 제작해 사이버 테러를 시도한 실사례가 전 세계 최초로 확인됐다. 11일(현지시간) 구글 위협 분석 그룹(GTIG)은 보고서를 통해 특정 해커 집단이 AI를 활용해 개발한 것으로 강력히 추정되는 ‘제로데이 익스플로잇(보안 결함 공격 도구)’을 포착했다고 발표했다. 제로데이란 보안 패치가 나오지 않아 방어자가 대비할 시간이 전혀 없는 치명적인 약점을 의미한다.

구글의 분석 결과, 해당 공격 주체는 이 AI 제작 도구를 사용해 대규모 사이버 공격을 감행하려 했으나 구글의 선제적인 모니터링 시스템에 의해 실제 실행 직전 차단된 것으로 밝혀졌다. 구글 측은 공격 과정에 자사의 ‘제미나이’ 모델이 쓰이지는 않았으나, 취약점을 발굴하고 이를 공격용 소프트웨어로 변환(Weaponizing)하는 핵심 단계에 고도화된 AI 모델이 개입했다는 사실을 확신한다고 강조했다.

구체적인 공격 배후는 공개되지 않았으나, 구글은 중국과 북한 등 국가적 지원을 받는 해킹 조직들이 최근 보안 취약점 공략에 AI를 접목하는 데 상당한 관심을 보여왔다는 점을 지적했다. 현재 구글은 공격 대상이 되었던 익명의 기업에 해당 사실을 즉각 통보해 보안 패치 조치를 완료한 상태다.

이번 발견은 AI가 단순히 보조적인 도구를 넘어 사이버 공격의 전 과정을 주도할 수 있다는 사실을 보여준 최초의 ‘유형적 증거’로 평가받는다. 공격자들이 AI를 무기화함에 따라 구글과 앤스로픽 등 빅테크 기업들도 AI를 방어 수단으로 활용하는 맞춤형 보안 프로젝트를 강화하며 대응에 나서고 있다.