글로벌 메신저 텔레그램이 최근 애플 앱스토어에서 일시 삭제됐던 사태의 원인으로 'AI 기반 게시물 삭제 협박범'을 지목했다.

파벨 두로프 텔레그램 창립자는 악의적 공격자가 과거 메시지를 'AI로 변조된 불법 콘텐츠'로 수정해 숨겨놓은 뒤, 대가를 요구하는 협박을 시도했다고 밝혔다. 요구 응낙 거절 시 자동화 계정을 동원해 해당 게시물을 애플에 직접 신고하는 방식이다.

두로프는 애플이 사전 확인 없이 앱을 곧바로 삭제했다며, 이번 사건이 사용자 생성 콘텐츠(UGC)를 다루는 모든 모바일 앱에 심각한 시스템적 위험이 될 수 있다고 경고했다. AI 기술 발전으로 이 같은 조작 및 신고 공작이 쉬워지면서 플랫폼의 불법 콘텐츠 관리 책임을 둘러싼 논란은 한층 격화될 전망이다.