페이스북과 인스타그램을 운영하는 메타의 기존 성적 딥페이크 대응 시스템이 일반인 피해자들에게 극도로 불리하게 설계되어 있다는 조사 결과가 나왔다.

메타 감독위원회는 성인 성착취 관련 커뮤니티 가이드라인을 전면 개정하고, 일반인 사용자를 음란성 인공지능(AI) 합성물로부터 보호할 수 있는 실질적인 구제책을 즉각 마련하라고 메타 측에 강력히 촉구했다. 위원회는 최근 인스타그램에서 발생한 일반인 여성 사칭 지인의 신고를 메타가 세 차례나 묵살하고 성인 전용 영상으로만 방치한 사건을 직접 조사한 끝에 이 같은 결정을 내렸다.

현행 메타의 모더레이션 시스템은 피해 당사자가 직접 신고하거나 사법기관, 언론 매체, 신뢰할 수 있는 공식 파트너사가 개입해야만 비동의 성적 촬영물로 인정해 삭제 처리를 진행하고 있다. 그러나 위원회는 공인과 달리 일반인 피해자가 언론이나 공권력을 움직여 비동의 사실을 증명하기는 현실적으로 불가능에 가깝다고 지적했다. 실제로 이번 사건의 피해 여성은 정신적 충격으로 자신의 SNS 계정을 즉시 폐쇄해 직접 신고할 방법이 차단됐으며, 친구들이 대신 나선 대리 신고는 메타 측에 의해 번번이 거부됐다.

이에 따라 감독위원회는 무분별하게 확산하는 디지털 성범죄를 막기 위해 AI 기반 사칭 저작물을 '성인 성착취' 조항에 명시하고 기본적으로 비동의 콘텐츠로 간주해야 한다고 권고했다. 또한 피해자를 대신해 신뢰할 수 있는 가족이나 지인이 대리 신고를 할 수 있는 '연결된 계정' 제도를 신설하고, 미국 일부 주에서만 한정적으로 운영 중인 딥페이크 전용 신고 양식을 전 세계 유저로 확대 적용하라고 덧붙였다. 위원회는 이번 권고와 함께 기존 메타의 유지 결정을 뒤집고 해당 불법 영상을 즉각 삭제하라는 명령을 내렸다.