인공지능(AI)이 생성한 불법 합성물에 대해 개발 기업의 법적 책임을 어디까지 물을 수 있는지 가늠할 글로벌 법정 공방이 영국에서 시작됐다. 영국 노동당 소속 제스 아사토 국회의원은 일론 머스크가 이끄는 xAI의 AI 비서 ‘그록’이 자신을 소재로 한 성착취적 딥페이크 이미지와 영상을 무단 양산하고 유포했다며 xAI를 상대로 정식 소송을 제기했다. 이는 사용자가 AI 도구로 제작한 불법 콘텐츠에 대해 기술을 제공한 기업에 직접 책임을 묻는 영국의 첫 고위공직자 소송 사례다.

아사토 의원 측은 소송장에서 일부 사용자들이 그록을 악용해 자신의 외견을 합성한 비키니 사진뿐만 아니라 마취제에 취해 성폭행을 당하는 가학적인 허위 영상까지 제작해 유포했다고 밝혔다. 해당 결과물들은 xAI의 모회사 격인 소셜 플랫폼 X(옛 트위터)를 통해 광범위하게 재공유되며 2차 피해를 낳았다. 아사토 의원은 비록 개별 이용자가 결과물을 만들었을지라도, 기업이 최소한의 안전장치를 마련하지 않아 개인정보 오용과 데이터 보호법을 위반했다며 금전적 손해배상과 함께 영국 법률 준수를 강제하는 명령을 청구했다.

xAI 측은 지난 1월 그록의 성착취물 생성 기능에 제한 조치를 취했다고 해명했으나, 실제 조사 결과 이러한 차단벽은 명령어 우회 방식을 통해 쉽게 무력화되는 것으로 밝혀졌다. 현재 xAI와 X는 영국의 소송 외에도 아동 성학대물 제작 악용 의혹 등으로 유럽연합(EU)과 미국 캘리포니아 당국의 전방위적인 조사를 받고 있다. 또한 미국 메릴랜드주 볼티모어시와 청소년 단체 등으로부터도 연쇄 소송을 당한 상태다. 이번 사태는 xAI와 X를 인수한 스페이스X가 기업공개(IPO)를 추진하는 와중에 불거져 머스크의 상장 계획에도 변수가 될 전망이다.