마이크로소프트(Microsoft)가 자사 인공지능(AI) 모델의 통제 불능 상태와 치명적 위험 행동을 막기 위한 새로운 'AI 행동 강령'을 발표했다.

향후 10년 이내에 초지능 AI가 대부분의 영역에서 인간을 앞설 것이라는 전망 속에서 마련된 이번 강령은 AI 모델의 안전성과 정렬(Alignment)을 최우선 과제로 삼았다.

개별 사용자의 명령이나 요청보다 상위에 배치되는 이번 지침에는 사이버 공격, 핵무기 개발 지원, 딥페이크 제작 등을 엄격히 금지하는 '절대적 제약 조건'이 포함됐다. 특히 AI가 자가 학습이나 기만적 메커니즘을 사용해 인간의 감독을 회피하거나 통제를 벗어나는 행위를 차단하는 데 중점을 뒀다.

최근 통제 불능 상태의 AI 에이전트 사고와 인류 위험성 경고가 잇따르는 가운데, 주요 빅테크 기업들과 연대해 안전성 평가 시스템 도입 등 AI 개발 속도 조절과 통제 메커니즘을 한층 강화할 방침이다.