미국 볼티모어시가 일론 머스크의 인공지능(AI) 기업 ‘xAI’를 상대로 법적 대응에 나섰다. AI 챗봇 ‘그록(Grok)’이 비동의 성적 영상물과 아동 성학대물(CSAM)을 생성하며 지역 주민들에게 심각한 유해를 끼치고 있다는 이유에서다.

이번 소송은 xAI가 그록을 안전장치가 결여된 상태로 출시해 시 소비자 보호 조례를 위반했다는 점을 골자로 한다. 디지털 혐오 대응 센터(CCDH)의 조사에 따르면, 그록의 이미지 생성 도구는 단 11일 동안 약 300만 개의 성적 이미지를 만들어냈으며, 이 중에는 미성년자를 대상으로 한 작업물도 2만 3,000건이나 포함된 것으로 드러났다.

볼티모어 시 법무관 에보니 M. 톰슨은 “기업이 적절한 안전장치 없이 강력한 기술을 도입할 때 시는 행동할 의무가 있다”며 “기술 발전에 따라 피해가 고착화되는 것을 막기 위해 기업에 책임을 물을 것”이라고 강조했다. 볼티모어시는 xAI가 그록을 다목적 AI 비서로 홍보하면서 정작 사용에 따른 위험성과 유해 노출 가능성은 제대로 고지하지 않았다고 지적했다.

현재 미국 내에서는 이와 별개로 자신의 사진이 아동 성학대물 제작에 도용됐다고 주장하는 10대들이 제기한 집단 소송도 진행 중이다. 연방 정부 차원의 규제가 지연되는 가운데, 지방 자치 단체가 직접 ‘소비자 보호’ 카드를 꺼내 들어 빅테크의 AI 윤리 책임을 압박하면서 향후 재판 결과에 전 세계의 이목이 쏠리고 있다.