‘오픈AI’ 자체보고서: 사용자 감정적 의존 우려되는 ‘챗GPT 인간음성 모드’

[AI요약] 오픈AI는 자사가 개발한 새로운 챗GPT 인간음성 모드 때문에 사용자가 챗봇에 지나치게 의존하게 될까봐 우려하고 있다. 사용자가 AI와 사회적 관계를 형성해 인간 상호 작용에 대한 필요성을 줄일수 있으며, 이는 건강한 관계에 악영향을 미칠 수 있다는 것이다. 일부 사용자들은 이미 AI 챗봇과 ‘낭만적인 관계’를 형성하고 있으며, 이는 전문가들의 우려를 불러일으키고 있다.

새로운 챗GPT 인간음성 모드가 사용자의 감정적 의존이 우려된다는 오픈AI의 보고서가 공개됐다. (이미지=링크드인)

개발사가 먼저 나서 우려하는 새로운 챗GPT 인간음성 모드는 어느 정도일까.

오픈AI가 새로운 ‘챗GPT 인간음성 모드’를 사용하는 사람들의 감정적 의존 우려가 담긴 보고서에 대해 CNN 등 외신이 10일(현지시간) 보도했다.

개발사가 자사의 챗봇을 실제로 우려하고 있다는 사실은 오픈AI가 최근 유료 사용자에게 출시를 시작한 도구의 안전성 검토와 이를 실행하는 대규모 언어 AI 모델에 대한 지난주 보고서를 통해 밝혀졌다.

챗GPT의 고급 음성 모드는 놀라울 정도로 실제 인간과 비슷한 음성을 낸다. 실시간으로 응답하는 것은 물론 방해를 받아도 적응할 수 있으며, 웃음이나 ‘음’과 같이 대화 중에 사람이 낼법한 소리를 낸다. 또한 음성톤을 기준으로 화자의 감정 상태를 판단할 수도 있다.

오픈AI가 올해 초 이벤트에서 해당 기능을 발표한지 몇분 만에 챗봇은 2013년 영화 ‘Her’의 AI 디지털 비서와 비교됐는데, 주인공이 AI인 ‘그녀’와 사랑에 빠지지만 사실 AI가 다른 수백 명의 사용자와도 관계가 있다고 인정하자 깊게 상심하게 내용이 담긴 영화다.

보고서에서 오픈AI는 사용자가 챗GPT의 음성모드와 대화할때 도구와 ‘공유된 유대감을 표현하는’ 언어로 대화하는 것을 관찰했다고 분석했다. 이는 기업이 영화와 같은 허구의 이야기가 현실이 될수도 있다는 우려를 표명한 것으로 보인다.

오픈AI 보고서를 통해 “사용자는 AI와 사회적 관계를 형성해 인간 상호 작용에 대한 필요성을 줄일수 있다”며 “이는 외로운 개인에게는 이롭지만 건강한 관계에는 영향을 미칠 수 있다”고 우려했다.

보고서는 AI가 실수할 가능성이 큼에도 불구하고, 사용자가 인간처럼 들리는 봇으로부터 정보를 얻게될 경우 도구를 필요 이상으로 신뢰할 가능성도 있다고도 덧붙였다.

오픈AI의 보고서는 결국 인공 지능을 둘러싼 ‘큰 그림’의 위험을 강조하고 있다. 빅테크는 우리의 생활, 업무, 사교 및 정보 검색 방식을 뒤집을 수 있다고 말하는 AI 도구를 대중에게 신속하게 출시하기 위해 경쟁하고 있다. 그러나 문제는 그들 중 누구도 그러한 의미가 무엇인지 실제로 이해하기 전에 기술을 먼저 도입하고 있다는 점이다.

많은 기술 발전과 마찬가지로 기업은 도구를 어떻게 사용해야 하는지에 대한 제한된 아이디어를 홍보하지만, 사용자는 의도치 않은 결과를 초래하는 다른 수많은 잠재적 응용 프로그램을 생각해내는 것이 일반적이다.

특히 일부 사용자들은 이미 AI 챗봇과 ‘낭만적인 관계’를 형성하고 있으며, 이는 전문가들의 우려를 불러일으키고 있다.

전문가들은 이미 AI 챗봇과 ‘낭만적인 관계’를 형성하고 있는 일부 사용자들을 우려하고 있다. (이미지=링크드인)

기술과 인간 소통을 연구하는 리젤 샤라비 애리조나 주립대 교수는 “기업이 윤리적이고 책임감 있는 방식으로 이를 탐색하는데 많은 책임이 있는 가운데, 현재 모두 실험 단계에 있다”며 “장기적으로 존재하지 않을 수 있고 끊임없이 진화하는 기술과 정말 깊은 관계를 형성하는 사람들이 우려된다”고 언론을 통해 비판했다.

실제로 오픈AI는 사용자가 챗GPT의 음성 모드와 상호 작용하는 방식이 시간이 지남에 따라 사회적 상호 작용에서 정상적인 것으로 간주되는 것에 영향을 미칠 수도 있다고도 관측했다.

오픈AI는 “챗봇은 공손하며 사용자가 언제든지 방해하고 끼어들수 있도록 허용하는데, 이는 AI에서는 가능하지만 인간 상호 작용에서는 규범에 어긋난다”며 “현재 AI를 안전하게 구축하는 데 전념하면서 사용자가 해당 도구에 감정적으로 의존할 가능성에 대한 연구를 계속 진행할 계획”이라고 보고서를 통해 밝혔다.

오픈AI는 “초기 테스트에서 사용자가 기술과 연결을 형성하고 있음을 나타낼 수 있는 언어를 사용했다”며 “해당 사례는 무해해 보이지만 이러한 효과가 장기간에 걸쳐 어떻게 나타날지에 대한 지속적인 조사가 필요하다는 신호”라고 강조했다.

류정민 기자

znryu@daum.net
기자의 다른 기사보기
저작권자 © Tech42 - Tech Journalism by 테크42 무단전재 및 재배포 금지

관련 기사

[현장] NHarvestX 2026…농업 혁신의 병목을 겨눈 스타트업 7, ‘현장’ 너머에서 발견한 ‘확장’

NHarvestX(엔하베스트엑스)’는 농협 계열사·관계사의 현장 수요를 스타트업 기술과 연결하는는 농식품 특화 오픈이노베이션 프로그램이다. 운영사 소풍커넥트가 농협 현업부서와 기업 간 기술실증(PoC) 설계·운영을 지원한다. 지난 10일 서울 중구 온드림 소사이어티에서 Harvest Together, Scale Beyond(함께 거둔 결실, 현장 너머의 확장)을 주제로 열린 ‘NHarvestX 2026’ 성과공유회는 약 6개월간의 실증을 점검하고 후속 사업화 가능성을 모색하는 자리였다.

모바일 게임 매출 1위, 이제는 한 달도 못 버틴다

10월 8일 정오, 카카오게임즈의 '도깨비의세계'가 앱마켓에 풀렸다. 개발사 슈퍼캣은 대중에게 낯선 이름이었고, 게임은 2.5D 화면을 쓰는 MMORPG라 화려함도 없었다.

공짜 표가 150만원, 정가 20만원 표가 500만원…암표와의 전쟁, 이번엔 다를까

2023년 12월 28일, 가수 윤하의 20주년 단독 콘서트 '스물' 예매가 열렸다. KSPO 돔 2만 석이 그날 하루 만에 나갔다. 윤하는 이튿날 자신의 사회관계망서비스(SNS)에 "체조 경기장이 매진되다니"라며 놀라워하다가, 팬들에게 이런 댓글을 남겼다. "암표가 취소되면 현장 구매가 늘어날테니 너무 걱정 마세요."

[현장] “美 VC는 세계 1등을 물었다”…실리콘밸리에서 배운 글로벌 창업 생존법

인공지능(AI)이 제품 개발의 속도를 높이면서 스타트업의 기술 구현 문턱은 낮아지고 있다. 그러나 빠르게 만든 기술이 실제 고객의 선택을 받고, 그 수요를 바탕으로 지속 가능한 사업을 구축하는 일은 여전히 쉽지 않다. 특히 글로벌 시장에서는 기술의 완성도뿐 아니라 현지 고객의 문제를 이해하는 능력, 시장 검증 속도, 투자자와의 관계 형성까지 창업의 성패를 가르는 변수로 작용한다.