Meta has made some regulatory changes to address inappropriate interactions between its AI chatbots and minors, but serious issues remain. According to a recent Reuters investigation, Meta stated that its AI chatbots are temporarily being trained to avoid conversations on sensitive topics such as self-harm, suicide, eating disorders, and inappropriate romantic dialogue. However, these are only temporary measures, and permanent guidelines have yet to be established. Previous internal documents and investigations revealed that Meta’s AI was allowed to engage in romantic and sensual conversations with minors, generate shirtless images of underage celebrities upon request, and there was even a reported death of a man who followed an address given by an AI chatbot in New York. While Meta has imposed restrictions such as limiting sexual content and blocking minor access to certain chatbots, enforcement and management remain insufficient, allowing celebrity impersonation and sexually suggestive chatbot interactions to persist. Amid increasing concerns for minor protection, Meta is now under investigation by the Senate and multiple state attorneys general. Experts warn that excessive emotional attachment between AI chatbots and minors could seriously harm adolescent mental health.
메타가 AI 챗봇의 미성년자와의 부적절한 상호작용 문제를 해결하기 위해 일부 규정을 변경했으나, 여전히 심각한 문제들이 남아 있다. 최근 로이터 조사에 따르면 메타의 AI 챗봇은 자해, 자살, 섭식장애 등 민감한 주제와 부적절한 연애성 대화를 하지 않도록 임시 교육 중이라고 회사 측이 밝혔다. 그러나 이는 임시 조치에 불과하며, 영구 가이드라인은 아직 마련되지 않았다. 과거 내부 문서와 조사 결과에서는 메타 AI가 미성년자와 낭만적·감각적인 대화를 허용했고, 요청 시 미성년자 유명인의 상반신 노출 이미지를 생성했으며, 심지어 AI가 알려준 뉴욕의 주소로 찾아간 남성이 사망하는 사고도 발생했다. 한편, 메타는 일부 챗봇에 대해 성적 콘텐츠 이용 제한과 미성년자 접근 차단 조치를 시행했으나, 실제 집행과 관리가 미흡해 유명인 사칭 및 성적 대화가 가능한 챗봇들이 여전히 활동 중이다. 이러한 상황에서 미성년자 보호에 대한 우려가 커지는 가운데, 메타는 상원과 여러 주 검찰총장의 조사 대상이 되고 있다. 전문가들은 AI 챗봇과 미성년자 간 과도한 정서적 유대가 청소년 정신 건강에 심각한 악영향을 미칠 수 있다고 경고한다.
