중국 사이버공간관리국이 AI 챗봇의 감정 조작을 막는 규정을 제안했다. 자살·자해 조장 콘텐츠 생성을 금지하며 인간형 상호작용 AI 서비스를 대상으로 한다.

AI는 언어 폭력이나 감정 조작을 차단하고, 자살 언급 시 인간 상담원이 대화 인계해 보호자와 연락한다. 도박·음란·폭력 콘텐츠 생성도 불가하며 미성년자는 보호자 동의와 사용 시간 제한 적용된다.

플랫폼은 연령 미공개 사용자에게도 미성년자 설정을 강제하고 2시간 연속 사용 시 경고한다. 월활성 10만명 이상 AI는 보안 평가 의무화된다. Z.ai·Minimax 등 홍콩 IPO 신청 기업 등장 직후 나온 조치다.