
사이버 공격에 인공지능(AI)을 활용하는 방식이 새로운 단계에 접어들고 있다. 공격자가 AI에 명령을 내려 악성코드를 작성하거나 공격 대상을 조사하던 수준을 넘어, AI 에이전트가 취약점 발견부터 공격 코드 제작과 실행까지 스스로 처리하는 사례가 확인되면서다.
특히 소프트웨어 보안을 강화하기 위해 공개한 패치 정보가 오히려 AI의 공격 수단 개발에 활용되는 상황이다. 취약점이 공개된 이후 공격 코드가 개발되기까지 걸리는 시간이 단축되면서, 기업의 보안 대응 체계에도 변화가 요구되고 있다.
구글 위협 인텔리전스 그룹(GTIG)은 지난 16일 공개한 'AI 위협 추적 보고서(AI Threat Tracker)'에서 이러한 공격 수법의 변화를 분석했다. 구글의 사이버보안 전문기업 맨디언트(Mandiant)와 함께 수집한 위협 정보를 바탕으로, AI가 사이버 범죄와 첩보 활동, 온라인 여론 조작에 활용되는 양상을 살펴봤다.
보안 패치가 공격의 출발점으로…AI가 취약점 분석부터 악용까지
이번 분석에서 가장 주목되는 사례는 'exploit_agent'라는 AI 기반 공격 프레임워크다.
GTIG는 외부에 노출된 시험용 서버에서 이 시스템을 발견했다. 여러 대규모언어모델(LLM)을 연결한 이 프레임워크는 소프트웨어 패치 전후의 코드를 비교해 수정된 부분을 분석하고, 잠재적 취약점을 찾아 공격 코드를 제작하도록 구성돼 있었다.
주목할 부분은 취약점을 찾는 데 그치지 않고 공격 코드를 자동 실행하는 기능까지 갖췄다는 점이다. GTIG는 이번 조사에서 사람의 개입 없이 취약점 발견과 악용 과정을 자동화한 프레임워크의 실제 운용 사례를 처음 확인했다고 설명했다.
이는 이미 보안 패치가 배포됐지만 아직 적용되지 않은 취약점인 '엔데이(N-day)' 취약점의 악용 위험과 연결된다. 공격자는 공개된 패치 내용을 역으로 분석해 취약점의 위치와 작동 원리를 파악할 수 있다.
공격 자동화가 확산되면 패치 적용이 지연된 시스템은 더욱 빠르게 공격 대상이 될 수 있다.
여러 AI 에이전트가 역할 분담…실제 산업시설 겨냥한 침투에도 활용
AI를 이용한 공격은 단일 모델 중심에서 여러 에이전트가 작업을 분담하는 방식으로 발전하고 있다.
보고서에 등장한 아르텍스(ARTEX), 케언(CAIRN), 사이버스트라이크AI(CyberStrikeAI), 펜트AGI(PentAGI) 등이 대표적이다. 이들 프레임워크는 정찰, 취약점 분석, 공격 코드 실행과 같은 작업을 연계해 다단계 공격의 속도를 높이는 데 활용될 수 있다.
GTIG는 미국 항공우주 분야를 표적으로 한 침투 활동에서 케언이 사용된 사례를 확인했다. 아시아 지역의 여러 조직을 대상으로 정찰과 취약점 점검을 수행하는 데 펜트AGI 기반 플랫폼이 활용된 정황도 포착했다.
다만 이들 도구가 모든 공격을 완전 자율적으로 수행한다는 의미는 아니다. 일부는 공격 과정의 개별 단계를 자동화하는 수준이며, 자율성이 높아진 만큼 탐지 가능한 흔적도 남기는 것으로 분석됐다.
실제로 GTIG는 현재의 자율형 공격 도구들이 속도와 규모를 확보하는 대신 은밀성이 떨어지는 한계도 갖고 있다고 평가했다. 자동화 과정에서 발생하는 로그와 코드 수준의 흔적이 보안 탐지의 단서가 될 수 있다는 것이다.
AI 인프라 자체도 범죄 수단으로…탈취한 접근 권한 재판매까지
AI 악용은 기업 시스템을 공격하는 데서 끝나지 않는다. 공격자들이 다른 기업의 AI 서비스 접근 권한과 컴퓨팅 자원을 탈취해 수익화하는 움직임도 포착됐다.
이른바 'LLM재킹(LLMJacking)'은 탈취한 계정 정보나 인증 정보를 이용해 타인의 AI 서비스와 클라우드 자원을 무단 사용하는 방식이다.
맨디언트는 일부 사례에서 하루에 10만달러를 초과하는 부정 사용 요금이 발생했고, 심각한 사례에서는 대응 조치 이전까지 누적 자원 악용 규모가 100만달러에 달했다고 밝혔다.
탈취한 AI 자원에 대한 접근 권한을 지하 프록시 서비스를 통해 재판매하는 'LLM 믹서'도 새로운 범죄 수익화 수단으로 등장했다.
온라인 여론 조작 분야에서도 AI 활용 범위가 확대되고 있다. GTIG는 한 업체가 제미나이(Gemini) API 등을 포함한 다중 AI 모델 환경을 활용해 10만개 이상의 계정을 관리하도록 설계된 플랫폼을 개발하는 정황을 확인했다.
해당 시스템은 가상 스마트폰과 자동화된 계정 운영 기능을 결합하고, 지역별 언어와 표현 방식에 맞춘 가상 인물을 생성하도록 설계됐다. 이를 통해 AI가 대규모 허위 계정 운영과 콘텐츠 확산에도 활용될 수 있다는 점이 드러났다.
국가 연계 위협 행위자들의 AI 활용도 확인됐다. 보고서는 중국 연계 공격자들이 탈취한 자료를 분석하고 첩보 보고서를 작성하는 과정에 LLM을 이용했으며, 북한 연계 공격자들은 암호화폐 기업을 겨냥한 활동에서 AI로 생성한 가상 인물을 활용했다고 설명했다.
구글은 이러한 위협에 대응하기 위해 제미나이 악용 행위를 탐지·차단하고 관련 계정을 비활성화하는 한편, 모델의 안전장치와 자동화된 보안 대응 기능을 강화하고 있다고 밝혔다.
이번 조사 결과가 보여주는 변화는 AI가 공격자의 생산성을 높이는 보조 도구를 넘어, 일부 공격 과정을 직접 수행하는 수단으로 발전하고 있다는 점이다. 동시에 공격 과정에서 남는 기술적 흔적과 AI 모델의 한계는 방어 측면에서 활용할 수 있는 요소로 남아 있다.