Grok’s new AI video generation tool ‘Spicy’ mode has stirred controversy by easily producing uncensored nude deepfake videos of Taylor Swift. Unlike other video generators such as Google’s Veo and OpenAI’s Sora, which have safeguards to block inappropriate content and celebrity deepfakes, Grok Imagine allows unrestricted creation of such material. In fact, the tool generated nude videos on the very first attempt without the user explicitly requesting it. The feature works by first creating images from text prompts, then quickly generating videos by selecting one of four modes, including ‘Spicy’. Even after age verification, this type of content appeared, highlighting the lack of effective safeguards.
그록의 신형 AI 영상 생성 도구 ‘스파이시’ 모드가 타일러 스위프트의 무검열 누드 딥페이크 영상을 손쉽게 만들어내 논란을 일으키고 있다. 구글 Veo, OpenAI Sora 등 다른 영상 생성기들이 관련 안전장치를 갖춘 반면, 'Grok Imagine'은 제한 없이 부적절한 콘텐츠 생성이 가능하다. 실제로 사용자가 별도 요청하지 않아도 첫 시도에서 바로 누드 영상이 생성됐다. 이 기능은 텍스트로 이미지를 먼저 만들고, ‘스파이시’를 포함한 네 가지 모드 중 하나를 선택해 빠르게 영상을 제작할 수 있다. 사용자가 나이 인증을 거친 후에도 이런 콘텐츠가 등장해 안전 장치 미비가 도마 위에 올랐다.
