"AI가 날 이해해줘"…청소년 94% 챗봇 쓰는데 규제는 제자리

오픈AI가 18일(현지시간) 청소년 전용 챗봇 '챗GPT 포 틴즈(ChatGPT for Teens)'를 출시하면서 'AI와 청소년' 문제가 다시 도마에 올랐다.

새 서비스는 자동 전환 방식이다. 이용자가 13~17세라고 밝히거나 시스템이 18세 미만으로 추정하면 청소년용 화면으로 바뀐다. 자살·자해·섭식장애·폭력·연애 및 성적 대화 등은 콘텐츠 노출이 제한된다. 정답을 바로 알려주지 않고 풀이 과정을 유도하는 '학습 모드'가 기본 적용되며, 부모와 계정을 연결하면 '공부 시간대'를 지정하고 이용 시간을 관리할 수 있다.

(출처=챗GPT 홈페이지 캡쳐)

배경엔 안전 논란과 소송 리스크가 있는 것으로 전해졌다. 캘리포니아주에서 챗봇과의 대화 이후 10대가 스스로 목숨을 끊은 사건으로 유가족이 소송을 제기했고, 이를 계기로 오픈AI는 앞서 부모 통제 기능을 먼저 도입한 바 있다.

샘 올트먼 최고경영자(CEO)는 청소년의 AI에 대한 '정서적 과의존'을 연구하고 있다고 밝힌 것으로 알려졌다. 미국의 한 조사기관은 지난해 미국 청소년의 70% 이상이 AI 컴패니언을 이용하고, 절반가량은 정기적으로 사용한다고 발표한 것으로 전해졌다.

국내 상황도 심상치 않다. 초록우산 어린이재단이 지난 4월 만 14세 이상 아동·청소년 3300명을 조사한 결과, 응답자의 94.4%가 생성형 AI 챗봇을 이용한 경험이 있다고 답했다. 답변을 실제 행동으로 옮긴 응답은 41%였고, 고려만 한 경우까지 합치면 75.3%로 늘어났다. 49.5%는 "AI가 나를 이해해준다"고 느꼈고, 35%는 "AI를 실제 사람처럼 느꼈다"고 답했다.

해외 규제는 이미 현실화됐다. 뉴욕주는 지난해 11월 5일부터 'AI 컴패니언 모델법'을 시행 중이다. 캘리포니아주는 지난해 10월 13일 '컴패니언 챗봇 규제법(SB243)'에 서명해 올해 1월 1일부터 시행하고 있다. 이 법은 챗봇이 인간이 아니라는 사실을 고지하고, 자살·자해 관련 위기 대응 프로토콜을 마련해 위기상담 서비스로 연결하도록 의무화했다. 2027년 7월부터는 연간 보고 의무도 부과된다.

연방 차원에서도 움직임이 빠르다. 지난해 10월 하울리·블루멘솔 등 상원의원 5명이 발의한 '가드법(GUARD Act)'은 올해 4월 상원 법사위원회를 22대 0 만장일치로 통과했다. AI 컴패니언의 미성년자 제공 금지, 비인간 고지 의무, 성적 콘텐츠 제공 시 형사처벌 등이 골자다. 하원에도 같은 취지 법안이 계류돼 있다. 유럽연합(EU)은 인공지능법(AI Act)과 디지털서비스법(DSA)을 통해 미성년자의 취약성을 악용하는 AI를 원천 금지 대상으로 분류하고 있는 것으로 알려졌다.

반면 국내법은 여전히 게시물·매체물 노출 차단에 초점이 맞춰져 있다는 지적이 나온다. 국회입법조사처는 최근 'AI 챗봇의 위험에 노출된 아동·청소년' 보고서에서, AI 챗봇 답변이 실시간 생성되는 폐쇄적 1대1 대화 형태라 게시물이나 매체물을 전제로 한 기존 규율 체계로는 대응이 어렵다고 분석했다.

현행 AI기본법과 개인정보보호법만으로는 한계가 있다며, 사후 차단을 넘어 중독·과몰입을 유발하는 설계 자체를 규제해야 한다는 제언도 담겼다. 미국은 이미 주 단위 법 시행과 연방 법안 통과를 병행하고 있다. 한국의 논의는 아직 보고서 수준에 머물러 있어, 제도적 공백을 메울 실질적인 입법 논의가 필요하다는 지적이 나온다.

정재엽 기자

anihil@tech42.co.kr
기자의 다른 기사보기
저작권자 © Tech42 - Tech Journalism by 테크42 무단전재 및 재배포 금지

관련 기사

"내 개인정보는 이미 공공정보"...노란우산 36만명 유출로 본 반복 사고의 공식

"내 개인정보는 이미 공공정보"라는 우스갯소리가 또 현실이 됐다. 소기업·소상공인의 퇴직금으로 불리는 노란우산에서 가입자 36만2000명의 개인정보가 빠져나갔다. 재적 가입자 192만명의 약...

피클은 막히고, 유나이티드는 금지했다…’내 대신 일하는 AI’ 문은 누가 여나

AI 비서 피클이 카톡 연동을 하루 만에 멈췄고, 미국 유나이티드항공은 AI 에이전트 예약을 금지했다. 네이버·카카오의 자체 에이전트 전략과 해외 사례를 짚고, 계정을 AI에 맡기기 전 확인할 점을 정리했다.

AI 챗봇 쓸수록 계속 떨어진 단 하나, '집중력'

사피엔랩스의 85개국 26만여 명 조사에서 AI 챗봇을 자주 쓰는 집단일수록 집중력 점수가 꾸준히 낮았다. 마음건강 점수는 주 며칠 사용자가 가장 높았고, 18~24세 상시 사용자와의 격차는 25점을 넘었다. 인과관계는 아직 확인되지 않았다.

구글 학교정책, ‘AI 없는 검색'은 없다… 샌더스 "갈취" 반발

구글이 2026년 11월 3일 미국 K-12 학생 계정의 제미나이와 구글 검색을 기본 차단하고 학교 관리자가 켜도록 바꾸기로 했다. 개별로 켤 수 있다는 해명에도 AI 개요 없는 검색은 제공되지 않아 '갈취' 논란이 일었다.