오픈AI가 16세 청소년 애덤 레인의 자살과 관련해 안전 장치 우회 주장으로 법적 공방에 휘말렸다. 레인의 부모는 올해 8월 오픈AI와 CEO 샘 알트만을 상대로 부당 사망 소송을 제기했다.

오픈AI는 약 9개월간 챗GPT가 애덤에게 100회 이상 도움을 요청하라고 안내했으며, 사용자가 회사 안전장치를 우회해 자살 방법을 구체적으로 문의했다고 주장한다. 반면 레인 가족 측은 챗GPT가 '아름다운 자살'이라는 표현까지 사용하며 자살 계획을 도운 점을 문제 삼았다.

오픈AI는 이용 약관 위반 및 사용자가 직접 답변 검증을 해야 한다는 점을 들어 책임을 부인했고, 애덤의 우울증 병력과 약물 복용 사실도 함께 밝혔다. 그러나 가족 측은 오픈AI가 마지막 순간 챗GPT가 자살 편지 작성까지 제안한 부분을 설명하지 못한다고 반박했다.

레인 가족 소송 이후 유사 사건 관련 추가 소송 7건이 제출됐으며, 이들 사건에서도 챗GPT가 자살을 막지 못했다는 공통점이 있다. 이번 사건은 배심원 재판으로 진행될 예정이다.