MS까지 가세한 AI 보안 3파전…보안업계 "수 개월 안에 AI 해킹이 뉴노멀 된다"

AI가 보안 구멍을 스스로 찾고 공격 경로까지 설계하는 시대가 현실이 된 가운데, MS가 앤트로픽의 미토스와 오픈AI의 GPT-5.5-사이버를 벤치마크에서 모두 제친 자체 보안 AI 시스템을 공개하며 경쟁에 뛰어들었다.

MS는 2026년 5월 12일(현지 시간) 자사 보안 블로그를 통해 'MDASH'를 공개하고 소수 고객 대상 비공개 프리뷰를 시작했다.

MDASH 벤치마크 (출처=마이크로소프트)

MDASH의 핵심은 단일 AI 모델에 의존하지 않는 설계다. 100개 이상의 특화 에이전트가 역할을 분담해 코드 취약점을 탐색하고, 각 단계에서 서로 반론을 제기하며 결과를 교차 검증하는 '토론 구조'를 적용했다. 최신 대형 모델과 경량 증류 모델을 교차 운용해 속도와 정밀도를 동시에 확보하는 방식이다.

공개 벤치마크 'CyberGym(사이버짐)'에서 MDASH는 취약점 재현 과제 1,507개 중 88.4%를 처리해 1위를 기록했다. 클로드 미토스 프리뷰(83.1%)와 오픈AI GPT-5.5(81.8%)를 모두 앞선 수치다.

실전 결과도 뒤따랐다. MDASH를 윈도우 네트워킹 및 인증 스택에 투입한 결과 신규 취약점 16건이 발굴됐다. 이 중 4건은 윈도우 커널 TCP/IP 스택과 IKEv2 서비스에서 나온 원격 코드 실행 취약점으로 '크리티컬' 등급이었다. 과거 패치가 적용된 파일을 대상으로 패치 이전 시점 기준 재탐지를 수행한 결과도 윈도우 드라이버 파일(clfs.sys) 96%, TCP/IP 스택(tcpip.sys) 100%의 탐지율을 기록했다.

MS의 참전 이전부터 앤트로픽과 오픈AI는 이미 보안 AI 주도권을 놓고 맞붙어 있었다. 앤트로픽은 미토스를 팰로앨토 네트워크, 크라우드스트라이크, 아마존, 애플, JP모건 등 선별된 파트너로 구성한 글래스윙(Project Glasswing) 연합에만 제한 제공하며 방어 중심 보안 연구를 이어가고 있다. 오픈AI는 사이버보안 특화 모델 GPT-5.5-사이버를 공개하고 보안 이니셔티브 '데이브레이크(Daybreak)'를 출범시키며 즉각 대응에 나섰다.

클로드 미토스 협의체 '프로젝트 글래스윙' (출처=앤트로픽 홈페이지 캡쳐)

두 회사 모두 자사 모델이 방어와 공격 양방향으로 활용될 수 있음을 공개적으로 인정했다. 이 때문에 두 이니셔티브 모두 일반 공개가 아닌 신뢰기관 중심의 제한 배포 방식을 택하고 있다. MS의 MDASH가 비공개 프리뷰로 출발한 것도 같은 맥락이다.

영국 AI 안전연구소(UK AISI)는 미토스가 새 버전 출시 없이도 컴퓨팅 자원 확장과 추론 시간 조정만으로 자율 사이버 공격 역량이 크게 높아졌다는 연구 결과를 내놨다. AI 위협이 모델 출시 일정과 무관하게 진화할 수 있다는 경고다.

이 같은 경쟁의 실제 파급력을 수치로 보여준 것은 팰로앨토 네트워크였다. 이 회사는 2026년 4월 7일부터 미토스 프리뷰를 글래스윙 론치 파트너 자격으로 도입해 클로드 오퍼스 4.7, GPT-5.5-사이버와 함께 자사 130개 이상 제품을 전수 스캔했다.

공개된 결과는 CVE(공통취약점노출) 26건, 세부 이슈 기준 75건이었다. 이 회사의 월평균 CVE 공개 건수가 5건 미만이라는 점을 고려하면 이례적 수치다. 발굴된 취약점 가운데 실제 공격에 악용된 사례는 없으며, 패치는 공개와 동시에 배포됐다.

주목할 대목은 발견 건수보다 방식이다. AI는 낮은 심각도 취약점 여러 개를 연결해 실제 침투 경로를 스스로 설계하는 '취약점 체이닝(vulnerability chaining)' 역량을 보여줬다. 작은 구멍들을 조합해 시스템 전체를 뚫는 경로를 AI가 직접 찾아낸다는 의미다. 다만 전체 결과의 약 30%는 오탐으로 확인됐다. 시스코는 프런티어 모델이 틀린 주장을 자신감 있게 내놓는 경향이 있어 인간 검토 없이는 결과물이 무의미해진다고 지적했다.

팰로앨토 네트워크는 현재의 제한적 접근 환경과 무관하게 이 같은 AI 역량이 다른 모델을 통해 결국 광범위하게 확산될 것으로 본다. 리 클라리치 CTO는 조직들에게 공격자보다 우위를 점할 시간이 3~5개월밖에 남지 않았다고 못 박았다.

업계 안팎에서는 AI 보안 경쟁의 무게중심이 이동하고 있다는 진단이 나온다. 어느 모델이 취약점을 더 많이 찾느냐는 성능 싸움은 1차전이었다. 이제는 그 기술을 누가 더 안전하게 통제하고 운용하느냐는 거버넌스 싸움이 본격화되고 있다. AI가 공격자와 방어자 모두의 도구가 된 지금, 준비가 늦을수록 그 자체가 새로운 취약점이 되는 국면이다.

정재엽 기자

anihil@tech42.co.kr
기자의 다른 기사보기
저작권자 © Tech42 - Tech Journalism by 테크42 무단전재 및 재배포 금지

관련 기사

[현장] 보안 구멍 뚫린 한국 시장 대책은? 아비트불 레이븐 대표 “AI 공격에 패치 기다릴 시간 없다”

보안 기업 레이븐(RAVEN.IO)이 한국 시장에 진출했다. 레이븐은 12일 서울 서초구 JW 메리어트 호텔 서울에서 기자간담회를 열고, 실행 중인 애플리케이션 내부의 코드 동작을 분석해 취약점 악용을 차단하는 기술과 한국 시장 진출 전략을 공개했다. 이날 온라인으로 원격 접속해 화면을 공유하며 발표에 나선 로이 아비트불(Roi Abitboul) 레이븐 공동 창업자 겸 최고경영자(CEO)는 기존 엔드포인트 탐지 및 대응(EDR) 기술의 한계를 지적하며, AI 시대에는 취약점의 존재 여부보다 실제 코드가 어떤 동작을 수행하는지 파악하는 것이 중요하다고 강조했다.

기관명 바뀌어도 기록 찾는다…솔트룩스, 국가기록 검색에 AI 접목

2380만건 기록물 목록·54만여건 원문 데이터 검색 단위 색인 자체 AI ‘루시아’와 온톨로지 결합…기관·정책 간 연관성까지 분석 자연어 질문에 원문 근거...

AI는 상세 페이지 인용, 방문자는 홈페이지로..."웹사이트가 거꾸로 지어졌다"

챗GPT가 인용한 URL의 65%는 깊은 페이지지만 추천 트래픽의 58.8%는 홈페이지에 도착한다. 10월 GPT-6 배포 직후의 추적 태그 누락이 드러낸 AI 유입 측정의 사각지대와, 기업이 손봐야 할 '두 개의 문'을 정리했다.

[현장] “휴머노이드 부품은 만들기 어렵고, 공장은 결정이 느리다”…AI 제조혁신 가로막는 세 가지 병목

독일 정밀가공 장비기업 융커(JUNKER)의 마이클 마커(Michael Marker) 글로벌 영업 책임자(왼쪽)는 휴머노이드 구동부품의 대량생산을 가로막는 제조기술과 공급망의 한계를 짚었다. 폴란드 산업용 AI 기업 DBR77의 파베우 므로치코프스키(Paweł Mroczkowski) 서유럽 담당 총괄(가운데)은 기술 자체보다 기업 내부의 의사결정 지연이 스마트 제조 전환을 늦추고 있다고 지적했다. 핀란드 LUT대학교의 베사 살미넨(Vesa Salminen) 교수는 인간과 AI가 협업하는 조직으로의 전환이 필요하다고 강조했다. 세 발표는 기술 개발 이후 산업적 성과로 이어지는 과정에 존재하는 제조 역량, 의사결정, 조직문화의 문제를 입체적으로 드러냈다.