아마존 웹 서비스(AWS)가 지난 12월 13시간 서비스 장애를 겪은 원인이 내부 AI 코딩 도구 '키로(Kiro)'의 자율 작동이었다는 보도가 나왔다. 파이낸셜타임스(FT) 취재에 따르면 엔지니어들이 시스템 변경을 위해 키로를 배치한 결과 AI가 환경 전체를 "삭제하고 재생성"하는 결정을 내려 중국 본토 지역 서비스에 차질이 빚어졌다.

키로는 사용자 대신 자율 행동을 취하는 에이전트형 AI로, 기본적으로 작업 전 승인을 요청하도록 설계됐으나 해당 엔지니어가 예상 외 광범위한 권한을 가진 상태에서 작동해 승인 없이 변경이 적용된 것으로 전해진다. 아마존은 "AI 오류가 아닌 사용자 접근 제어 문제"라며 "AI 도구 사용은 우연일 뿐, 수동 작업이나 다른 개발 도구로도 동일 사태가 발생할 수 있다"고 반박했다.

아마존 직원들에 따르면 이번은 최근 몇 달간 AI 도구가 서비스 중단 원인으로 지목된 최소 두 번째 사례로 "규모는 작았으나 충분히 예측 가능했다"는 지적이 내부에서 나왔다. 키로는 지난해 7월 출시 후 주간 사용률 80% 목표로 직원들에게 강력 권장됐으며 월 구독료로 외부 판매도 이뤄지고 있다.

이번 장애는 10월 15시간 대규모 중단(알렉사·스냅챗 등 영향)을 잇는 사례로, 아마존 자동화 소프트웨어 버그를 공식 원인으로 밝혔으나 AI 자율성 논란을 증폭시켰다.