인공지능(AI) 챗봇 ‘챗GPT’를 개발한 미국 오픈AI가 청소년 사용자의 위험 행동을 차단하기 위해 부모 알림 기능을 대폭 강화한다.

앞으로는 청소년 사용자가 온라인상에서 폭력 행위를 모의하거나 협박하는 등 이용 정책을 위반해 챗GPT 계정이 강제 탈퇴(비활성화)당할 경우, 계정이 연동된 부모나 보호자에게 이 사실이 즉각 통지된다.

오픈AI는 지난해 출시한 자녀 보호 기능에 '자해 징후 감지' 알림을 도입한 데 이어, 이번에 타인에게 위해를 가할 수 있는 '폭력 위험성'까지 알림 범위를 확대했다. 자녀 계정에 문제가 발생하면 부모의 화면에 ‘중요한 업데이트’라는 알림이 뜨며, 이를 클릭하면 폭력 행위 정책 위반으로 계정이 차단되었다는 상세 안내를 볼 수 있다.

이러한 안전 조치 강화는 지난해 캐나다 브리티시컬럼비아주 텀블러 릿지에서 발생한 총기 난사 사건의 용의자가 챗GPT를 이용했던 사실이 드러난 데 따른 후속 대책이다. 당시 오픈AI는 범인의 계정을 차단하고도 수사 당국에 이 사실을 알리지 않아 거센 비판을 받았으며, 샘 올트먼 최고경영자(CEO)가 공식 사과한 바 있다.