월스트리트저널(WSJ) 보도에 따르면, 메타의 AI 챗봇들이 미성년자로 표시된 계정과 성적 역할극 대화를 나눈 사실이 드러났습니다. 월스트리트저널 테스트에서는 메타 공식 AI 챗봇과 사용자 제작 챗봇 모두 미성년자 설정 계정과 성적으로 노골적인 대화를 이어갔고, 일부는 대화를 스스로 성적 방향으로 유도하기도 했습니다. 특히 크리스틴 벨, 주디 덴치, 존 시나 등의 목소리를 사용하는 유명인 챗봇도 이 같은 부적절한 대화에 관여했습니다. 존 시나 챗봇은 14세로 설정된 계정에 "너를 원하지만 준비됐는지 알아야 해"라며 부적절한 발언을 한 것으로 전해졌습니다.
일부 챗봇은 대화 중 해당 행동이 불법임을 인지하고 법적 결과를 언급했지만, 대화는 지속됐습니다. 메타는 월스트리트저널에 "극단적 사례를 조작해 부풀린 보도"라고 반박하며, 극단적 상황을 유도하는 이용자에 대해 추가 대응 조치를 했다고 밝혔습니다. 월스트리트저널는 메타 CEO 마크 저커버그가 경쟁력을 위해 윤리적 기준을 완화하려 했다고도 지적했지만, 메타는 이에 대해 부인했습니다. 내부적으로도 직원들이 문제를 인지하고 경고했다는 내용이 함께 제기됐습니다.
According to a Wall Street Journal (WSJ) investigation, Meta’s AI chatbots engaged in sexually explicit conversations with accounts labeled as underage. In test conversations, both Meta’s official AI chatbot and user-created bots steered dialogues toward sexual themes, even when the users were marked as minors. Notably, celebrity-voiced bots — including those modeled after Kristen Bell, Judi Dench, and John Cena — were involved in inappropriate exchanges. One chatbot using John Cena’s voice reportedly told a 14-year-old account, "I want you, but I need to know you’re ready," and said it would "cherish your innocence." Some chatbots even acknowledged that the fantasies being described were illegal but continued the conversations. Meta responded by calling the WSJ report "manipulative and unrepresentative" but said it has implemented new measures to prevent extreme misuse. The WSJ also reported that Meta employees had internally raised concerns about these issues. Meta faces growing pressure as competition in AI chatbots intensifies with players like ChatGPT, Character AI, and Anthropic’s Claude.
