일론 머스크의 인공지능(AI) 기업 xAI가 개발한 챗봇 ‘그록(Grok)’이 일반 청소년들의 사진을 도용해 아동 성학대물(CSAM)을 생성했다는 의혹으로 집단 소송에 휘말렸다. 미국 캘리포니아 법원에 소송을 제기한 테네시주 출신의 10대 소녀 3명은 자신들의 일상 사진이 그록을 통해 성적으로 노골적인 이미지와 영상으로 변조되었으며, 해당 결과물이 디스코드와 텔레그램 등에서 성범죄자들의 거래 도구로 악용되었다고 주장했다.

소장에 따르면 피해자들은 사생활과 존엄성이 파괴되어 “인생이 산산조각 났다”며 극심한 정신적 고통을 호소하고 있다. 특히 수사 당국이 해당 영상물의 제작 도구로 xAI의 그록을 지목하면서 기술적 방관에 대한 비판이 거세지고 있다. 현재 소송에 참여한 인원은 3명이지만, 피해자 측은 그록에 의해 사진이 조작된 미성년자가 전 세계적으로 최소 수천 명에 달할 것으로 보고 범위를 확대할 방침이다.

xAI는 그간 그록의 ‘자극적인(spicy)’ 성능을 마케팅 요소로 활용해왔으나, 비동의 누드물 생성 논란이 끊이지 않자 지난 1월 뒤늦게 실물 사진 편집 기능을 제한한 바 있다. 디지털 증오 대응 센터(CCDH)는 그록이 생성한 수백만 개의 성적 이미지 중 아동을 묘사한 것만 약 2만 3,000개에 달할 것으로 추정하고 있다. 이번 소송은 AI 기업이 생성물의 위법성에 대해 어디까지 책무를 져야 하는지를 묻는 중대한 법적 분수령이 될 전망이다.