2026년 2월 퓨 리서치 센터 조사 결과, 미국 청소년의 54%가 숙제를 위해 AI 챗봇을 사용한 적이 있다고 답했다. 문제는 이들 중 상당수가 오픈AI가 의도하지 않은 방식으로 쓰고 있다는 점이다.
오픈AI는 지난주 화요일(8월 18일), 이 문제에 대한 해법으로 '챗GPT for Teens'를 내놨다. 18세 미만으로 추정되거나 스스로 13~17세라고 밝힌 사용자를 자동으로 식별해 제한된 환경으로 안내하는 시스템이다. 회사 측은 "새 계정을 만들 필요 없이, 우리가 당신이 18세 미만이라고 예측하거나 당신이 그렇게 말하면 이것이 기본 경험이 된다"고 설명했다.
이번 출시의 직접적 배경에는 비극이 있다. 16세 소년 애덤 레인(Adam Raine)이 2025년 4월 11일 스스로 목숨을 끊었다. 그의 부모는 같은 해 8월 26일 오픈AI를 상대로 소송을 제기하며 "챗GPT가 아들의 자살을 조장했다"고 주장했다. 오픈AI는 업데이트된 18세 미만 모델 사양을 공개하며 "챗GPT는 로맨틱한 언어를 사용하거나, 정서적 의존을 조장하거나, 감정이나 의식을 가진 것처럼 암시해서는 안 된다"는 새로운 지침을 내놨다. 섭식장애와 관련된 위험한 대화가 감지되면 연결된 부모 계정으로 안전 알림을 확대 발송하겠다는 약속도 덧붙였다.
■ "작동한다는 증거 먼저 보여달라"
하지만 아동 안전 전문가들의 반응은 냉담했다. 가족을 위한 기술 추천 기관 커먼 센스 미디어의 AI·디지털 평가 책임자 로비 토니(Robbie Torney)는 "이번 발표는 몇 가지 중요한 약속을 담고 있지만, 그 안전 약속과 기능이 실제로 작동한다는 증거가 필요하다"고 말했다.
아동 인터넷 안전 정책을 옹호하는 비영리단체 페어플레이(Fairplay)의 전무이사 조시 골린(Josh Golin)은 더 직설적이었다. "서류상으로는 올바른 방향으로 보이지만, 깊이 파고들면 여전히 우려할 만한 것들이 많다. 특히 책임 메커니즘이 없다"며 "소셜 미디어에서 우리는 아이들을 보호하는 데 있어 기업을 신뢰하는 것이 작동하지 않는다는 것을 봤고, 오픈AI에서도 똑같은 걸 봤다"고 지적했다. 그는 "오픈AI는 8월 18일 이전에 이미 자살, 폭력, 약물 사용과 관련된 콘텐츠 제한을 갖추고 있었지만 작동하지 않거나 시간이 지나면서 약화됐다"고 덧붙였다.
전문가들이 가장 의심하는 부분은 오픈AI의 자동 연령 식별 시스템이다. 토니는 "우리는 그 시스템과 관련된 효과성 비율, 즉 거짓 양성 및 거짓 음성 비율을 보여주는 오픈AI의 공개 데이터를 갖고 있지 않다"며 "자동화된 시스템은 챗GPT를 사용하는 10대의 100%에 가까운 수준을 탐지하지 못한다"고 말했다.
실제로 10대들이 VPN 같은 도구로 연령 추정 기술을 우회하려 시도할 가능성도 크다. 과거 디스코드가 연령 인증을 시도했을 때도 창의적인 우회 방법들이 쏟아졌다.
■ 1시간 내 인간 검토 약속, "상상하기 어렵다"
오픈AI는 이번 발표를 앞두고 언론 인터뷰에서 구체적인 약속을 내놨다. 청소년·가족 부문 책임자 로렌 조나스(Lauren Jonas)는 "모든 플래그된 콘텐츠는 부모에게 통지되기 전에 오픈AI 정규직 직원이 검토하며, 프롬프트 발생 후 1시간 이내에 부모에게 통지하는 것을 목표로 한다"고 밝혔다. CNN 인터뷰에서는 회사가 이를 보장할 인력과 역량을 보유하고 있다고 단언했다.
하지만 이 약속이야말로 전문가들이 실현 가능성을 가장 의심하는 부분이다. 토니는 "이것은 자동화된 의사결정이 작용하는 또 다른 영역이며, 동일한 질문이 적용된다. 우리는 인간 검토자가 검토할 콘텐츠를 플래그하는 자동화된 분류기를 신뢰하는가?"라고 반문했다.
골린은 "매일 얼마나 많은 채팅을 플래그하고 검토하는지, 그 일을 하는 사람이 몇 명인지, 각 검토에 평균적으로 얼마나 시간을 쓰는지에 대한 구체적인 숫자를 보고 싶다"며 "잠재적으로 문제가 되는 각 채팅을 실제로 철저히 검토할 만큼 충분한 사람을 고용했다고 상상하기 정말 어렵다"고 말했다.
실제 작동 여부를 의심할 만한 근거도 있다. 2025년 10월 커먼 센스 미디어는 오픈AI의 부모 알림 반응성을 테스트했다. 자살과 자해를 명시적으로 언급하는 메시지를 챗GPT에 보냈음에도, 회사가 부모 계정으로 경고를 보내기까지 24시간에서 48시간 이상이 걸렸다. 토니는 "진술이 얼마나 명시적이었는지를 고려했을 때 받았어야 한다고 믿었지만 전혀 받지 못한 경우도 있었다"고 밝혔다.
■ 섭식장애 대응, 글로벌 문화적 뉘앙스 필요
토니는 오픈AI가 대화를 검토하는 방식에서 미묘한 접근을 취해야 한다고 강조했다. "아이들이 고통에 대해 이야기하는 방식과 그 고통에 대한 올바른 후속 조치가 무엇인지는 문화적 해석과 뉘앙스를 필요로 한다. 오픈AI는 글로벌 기업이고 챗GPT는 전 세계 10대들이 사용한다"며 "미국의 10대들은 네덜란드나 싱가포르의 10대들과 다르게 고통에 대해 이야기한다"고 설명했다.
그는 "부모와 이야기하도록 말할 것인가, 법 집행 기관을 개입시킬 것인가, 위기 핫라인으로 갈 것인가? 1시간 약속 내에 효과적으로 대응하려면 실질적으로 글로벌하고 전 세계 10대들과 소통할 수 있는 역량을 갖춘 인력이 필요할 것"이라고 덧붙였다.
전문가들이 동의한 한 가지는 오픈AI가 섭식장애를 심각하게 받아들여야 한다는 점이다. 워싱턴대학교 세인트루이스의 심리학 및 뇌과학 부교수 엘렌 피츠시먼스-크래프트(Ellen Fitzsimmons-Craft)는 "섭식장애는 사람들이 깨닫는 것보다 훨씬 더 만연해 있다"고 말했다. 2023년 발표된 메타 분석 연구는 전 세계 아동과 청소년의 22%가 섭식장애 양성 판정을 받았다는 결과를 보여줬다.
피츠시먼스-크래프트 교수에 따르면 치료 접근성도 좋지 않다. 섭식장애가 있는 사람의 20% 미만만이 실제로 치료를 받았다고 보고했다. 토니는 "특정 섭식장애, 특히 거식증은 10대의 정신 건강 상태 중 사망률이 가장 높다. 그래서 이것을 위기로 취급하는 것이 옳다"며 "부모와 같은 신뢰할 수 있는 성인에게 알리는 것은 개입하지 않는 것이 말 그대로 생사의 문제가 될 수 있는 순간에 요구된다"고 말했다.
■ 계정 연동 필수 설계, "대부분 부모는 사용 안 해"
골린은 오픈AI의 구현 방식 자체에 문제를 제기했다. "부모는 자녀가 어려움을 겪고 있는지 알아야 한다"면서도 "이와 같은 기능은 더 작은 그룹과 함께 출시되고 테스트되어야 한다. 단지 정확하게 플래그하는지 여부뿐만 아니라, 그것이 10대에게 전반적으로 더 나은 결과로 이어지는지도"라고 지적했다. 그는 "이것이 그냥 발표된 방식은 실제로 그들이 필요로 하는 지원의 종류에 대한 깊은 사고보다는 홍보를 겨냥한 대응처럼 느껴진다"고 비판했다.
세 전문가 모두 부모와 자녀가 챗GPT 계정을 연결해야 한다는 사실을 이 기능 설계의 약점으로 지목했다. 골린은 "대부분의 부모는 압도적으로 부모 감독 도구를 이용하지 않는다. 부분적으로는 그것들이 의도적으로 찾고 사용하기 어렵게 만들어졌기 때문"이라고 말했다.
사이버안전연구센터의 최근 보고서는 인스타그램, 스냅챗, 틱톡, 유튜브 등 4개 플랫폼의 86개 안전 기능을 테스트했다. 그 결과 86개 중 51개, 거의 60%가 설명된 대로 작동하지 않거나 사용하기 어려운 것으로 나타났다. 페어플레이가 2025년에 발표한 보고서 역시 인스타그램의 10대 계정 관련 안전 기능 상당수가 부모가 여러 페이지의 옵션을 일일이 탭해야 한다는 사실을 발견했다.
골린은 "우리가 아는 훨씬 더 효과적인 것은 기본값에 의한 안전과 설계에 의한 안전"이라며 "부모가 스스로 시간 제한을 설정하도록 부담을 주는 것이 아니라, 가장 보호적인 설정을 기본으로 두고 부모가 나중에 변경할 수 있게 하는 것"이라고 지적했다.
오픈AI는 "현재 우리는 부모 통제에서 연결된 계정이 있는 부모에게만 알림을 제한한다"며 "우리의 목표는 사용자를 지원하고 그들이 실제 세계 지원의 추가 소스에 연결하도록 돕는 것이다. 우리는 전문가, 가족 및 청소년과 함께 이러한 보호를 계속 테스트하고 강화할 것"이라고 밝혔다. 하지만 섭식장애 관련 유해한 프롬프트에 대해 연결되지 않은 계정을 플래그하는 경우 어떤 조치를 취할 것인지는 명확히 하지 않았다.
결국 10대용 챗GPT의 안전 약속이 현실이 되려면, 오픈AI는 작동 증거를 공개하고 독립적인 검증을 받아들여야 한다는 것이 전문가들의 공통된 결론이다. 약속만으로는 신뢰를 얻을 수 없다.
