A British man has been sentenced to 18 years in prison for creating child sexual abuse material (CSAM) using AI. Hugh Nelson, 27, manipulated photographs of real children to create images, marking the first prosecution of its kind in the UK. Nelson used modeling software called Daz 3D to produce CSAM and sold it online. Police reported that he earned approximately $6,500. He was caught attempting to sell images to an undercover officer in a chatroom, during which he made shocking statements. The judge described the images Nelson created as "harrowing and sickening," stating that it was impossible to know if children had been abused as a result. Police investigation revealed that Nelson had exchanged messages encouraging the sexual abuse of children under 13. Similar incidents are occurring in the United States, and concerns about AI-generated CSAM are growing. Major AI companies worldwide have signed a pledge to prevent the use of such software.
영국의 한 남성이 AI를 이용해 아동 성 학대 자료(CSAM)를 제작한 혐의로 18년 징역형을 선고받았다. 27세의 휴 넬슨(Hugh Nelson)은 실제 아동의 사진을 조작하여 이미지를 만들었으며, 이는 영국에서 첫 번째 기소 사례로 기록되었다. 넬슨은 Daz 3D라는 모델링 소프트웨어를 사용해 CSAM을 제작하고, 이를 온라인에서 판매했다. 경찰은 그가 약 6,500달러를 벌었다고 밝혔다. 그는 채팅방에서 위장 경찰관에게 이미지를 판매하려다 붙잡혔으며, 대화 중 충격적인 발언을 했다. 판사는 넬슨이 만든 이미지들을 "충격적이고 역겨운" 것이라며, 이로 인해 아동들이 학대를 받았는지 여부는 알 수 없다고 말했다. 경찰 수사 결과, 넬슨은 13세 미만 아동을 성적으로 학대하도록 부추기는 메시지를 주고받은 것으로 확인되었다. 미국에서도 비슷한 사건이 발생하고 있으며, AI를 이용한 CSAM 생성에 대한 우려가 커지고 있다. 세계 주요 AI 기업들은 이러한 소프트웨어 사용을 막기 위한 서약에 서명했다.
