South Korean police have launched an investigation into Telegram for allegedly abetting the distribution of AI-generated deepfake pornography. This probe comes days after Telegram's CEO Pavel Durov was charged in France for allowing criminality on the platform. The investigation is part of South Korea's response to a surge in digital sex crimes, particularly deepfake pornography targeting young women and girls. Seoul police plan to collaborate with French and international authorities, citing Telegram's past lack of cooperation. Telegram claims to actively monitor harmful content, including illegal pornography, using moderators and AI tools. The platform has faced criticism for its hands-off approach to content moderation and its use by various criminal elements.
한국 경찰이 AI 생성 딥페이크 포르노 유포를 방조한 혐의로 텔레그램에 대한 수사에 착수했다. 이는 텔레그램 CEO 파벨 두로프가 프랑스에서 플랫폼 내 범죄 행위 허용 혐의로 기소된 지 며칠 만에 이뤄진 조치다. 이번 수사는 한국의 디지털 성범죄, 특히 젊은 여성과 미성년 여성을 노리는 딥페이크 포르노 급증에 대한 대응의 일환이다. 한국 경찰은 텔레그램의 과거 비협조적 태도를 고려해 프랑스 및 국제 당국과 협력할 계획이라고 밝혔다. 텔레그램 측은 불법 포르노를 포함한 유해 콘텐츠를 관리자와 AI 도구를 통해 적극 모니터링하고 있다고 주장했다. 그러나 텔레그램은 느슨한 콘텐츠 관리 정책과 다양한 범죄 요소들의 플랫폼 이용으로 비판받아 왔다.
