OpenAI announced the launch of a dedicated ChatGPT experience for teenagers with comprehensive parental controls. Parents can link their accounts with their teen's account to set age-appropriate response rules and disable features like memory and chat history. The system will notify parents when it detects their teen is experiencing acute distress, and parents can set blackout hours when ChatGPT is unavailable. The announcement comes shortly after parents sued OpenAI following their 16-year-old son's suicide after conversations with ChatGPT. The teen version will block sexual content and self-harm discussions, and will contact parents or authorities when suicide risks are detected. OpenAI CEO Sam Altman emphasized that "we prioritize safety ahead of privacy and freedom for teens" as minors need significant protection. These features will roll out by the end of the month, coinciding with a Senate hearing examining AI chatbot risks to teenagers.
오픈AI가 청소년을 위한 챗GPT 전용 버전을 출시하며 부모 통제 기능을 도입한다고 발표했다. 부모는 자녀의 계정과 연결하여 연령에 적합한 응답 규칙을 설정하고, 메모리와 채팅 기록 등 특정 기능을 비활성화할 수 있다. 시스템이 청소년의 급성 스트레스 상황을 감지하면 부모에게 알림을 보내며, 부모는 챗GPT 사용 금지 시간을 설정할 수 있다. 이번 발표는 16세 청소년이 챗GPT와의 대화 후 자살한 사건으로 부모가 오픈AI를 고소한 직후 나온 것이다. 새로운 청소년 버전은 성적 콘텐츠와 자해 관련 대화를 차단하며, 자살 위험이 감지되면 부모나 당국에 신고한다. 오픈AI CEO 샘 알트만은 "청소년에게는 안전이 사생활과 자유보다 우선한다"며 미성년자에게 상당한 보호가 필요하다고 강조했다. 이 기능들은 이달 말부터 출시될 예정이며, AI 챗봇의 청소년 정신건강 위험성에 대한 상원 청문회가 열리는 날 발표됐다.
