OpenAI CEO Sam Altman warned that conversations with ChatGPT, when used as a therapist or counseling tool, are not legally protected by confidentiality. Unlike traditional doctor-patient confidentiality, legal protections do not apply to interactions with AI, meaning that conversation content could be disclosed in lawsuits or other legal disputes. Altman emphasized that the AI industry has yet to establish legal and policy frameworks to protect sensitive conversations, leading to serious user privacy concerns. He stressed the urgent need to ensure conversation privacy at the same level as that provided by therapists. Recently, OpenAI has been fighting a court order demanding the preservation of chat records from hundreds of millions of ChatGPT users. The company views privacy violations as a potential barrier to broader user adoption. Altman advised that users should exercise caution in using AI conversations until legal clarity is secured.

오픈AI CEO 샘 알트먼이 ChatGPT를 치료사나 상담 도구로 사용할 때 법적으로 대화 내용이 비밀로 보호받지 못한다고 경고했다. AI와의 대화에는 의사-환자 간 비밀보장 같은 법적 권리가 적용되지 않아, 소송 등 법적 분쟁 시 대화 내용이 공개될 수 있다는 점을 지적했다. 알트먼은 AI 업계가 민감한 대화를 보호하는 법적·정책적 틀을 아직 마련하지 못했으며, 이로 인해 사용자 프라이버시 이슈가 심각하다고 강조했다. 그는 치료사와 같은 수준의 대화 프라이버시 확보가 시급하다고 밝혔다. 오픈AI는 최근 법원 명령에 따라 수억 명의 ChatGPT 사용자 대화 기록 보존 요구에 맞서고 있으며, 프라이버시 침해 우려가 사용자 확산을 저해할 수 있다고 보고 있다. 알트먼은 법적 확실성이 확보되기 전까지 사용자들이 AI 대화를 신중하게 활용할 필요가 있다고 조언했다.