오픈AI가 18일(현지시간) 청소년 전용 챗봇 '챗GPT 포 틴즈(ChatGPT for Teens)'를 출시하면서 'AI와 청소년' 문제가 다시 도마에 올랐다.
새 서비스는 자동 전환 방식이다. 이용자가 13~17세라고 밝히거나 시스템이 18세 미만으로 추정하면 청소년용 화면으로 바뀐다. 자살·자해·섭식장애·폭력·연애 및 성적 대화 등은 콘텐츠 노출이 제한된다. 정답을 바로 알려주지 않고 풀이 과정을 유도하는 '학습 모드'가 기본 적용되며, 부모와 계정을 연결하면 '공부 시간대'를 지정하고 이용 시간을 관리할 수 있다.
배경엔 안전 논란과 소송 리스크가 있는 것으로 전해졌다. 캘리포니아주에서 챗봇과의 대화 이후 10대가 스스로 목숨을 끊은 사건으로 유가족이 소송을 제기했고, 이를 계기로 오픈AI는 앞서 부모 통제 기능을 먼저 도입한 바 있다.
샘 올트먼 최고경영자(CEO)는 청소년의 AI에 대한 '정서적 과의존'을 연구하고 있다고 밝힌 것으로 알려졌다. 미국의 한 조사기관은 지난해 미국 청소년의 70% 이상이 AI 컴패니언을 이용하고, 절반가량은 정기적으로 사용한다고 발표한 것으로 전해졌다.
국내 상황도 심상치 않다. 초록우산 어린이재단이 지난 4월 만 14세 이상 아동·청소년 3300명을 조사한 결과, 응답자의 94.4%가 생성형 AI 챗봇을 이용한 경험이 있다고 답했다. 답변을 실제 행동으로 옮긴 응답은 41%였고, 고려만 한 경우까지 합치면 75.3%로 늘어났다. 49.5%는 "AI가 나를 이해해준다"고 느꼈고, 35%는 "AI를 실제 사람처럼 느꼈다"고 답했다.
해외 규제는 이미 현실화됐다. 뉴욕주는 지난해 11월 5일부터 'AI 컴패니언 모델법'을 시행 중이다. 캘리포니아주는 지난해 10월 13일 '컴패니언 챗봇 규제법(SB243)'에 서명해 올해 1월 1일부터 시행하고 있다. 이 법은 챗봇이 인간이 아니라는 사실을 고지하고, 자살·자해 관련 위기 대응 프로토콜을 마련해 위기상담 서비스로 연결하도록 의무화했다. 2027년 7월부터는 연간 보고 의무도 부과된다.
연방 차원에서도 움직임이 빠르다. 지난해 10월 하울리·블루멘솔 등 상원의원 5명이 발의한 '가드법(GUARD Act)'은 올해 4월 상원 법사위원회를 22대 0 만장일치로 통과했다. AI 컴패니언의 미성년자 제공 금지, 비인간 고지 의무, 성적 콘텐츠 제공 시 형사처벌 등이 골자다. 하원에도 같은 취지 법안이 계류돼 있다. 유럽연합(EU)은 인공지능법(AI Act)과 디지털서비스법(DSA)을 통해 미성년자의 취약성을 악용하는 AI를 원천 금지 대상으로 분류하고 있는 것으로 알려졌다.
반면 국내법은 여전히 게시물·매체물 노출 차단에 초점이 맞춰져 있다는 지적이 나온다. 국회입법조사처는 최근 'AI 챗봇의 위험에 노출된 아동·청소년' 보고서에서, AI 챗봇 답변이 실시간 생성되는 폐쇄적 1대1 대화 형태라 게시물이나 매체물을 전제로 한 기존 규율 체계로는 대응이 어렵다고 분석했다.
현행 AI기본법과 개인정보보호법만으로는 한계가 있다며, 사후 차단을 넘어 중독·과몰입을 유발하는 설계 자체를 규제해야 한다는 제언도 담겼다. 미국은 이미 주 단위 법 시행과 연방 법안 통과를 병행하고 있다. 한국의 논의는 아직 보고서 수준에 머물러 있어, 제도적 공백을 메울 실질적인 입법 논의가 필요하다는 지적이 나온다.
