[AI요약] 지난주 오픈AI가 야심차게 공개한 챗GPT 4.0 음성비서 ‘스카이’가 잠정 중단이라는 결말을 맞이했다. 스카이는 공개되자마자 그 목소리가 스칼렛 요한슨이 출연한 영화 의 가상 음성 비서와 너무 유사하다는 지적을 받았으며, 요한슨은 결국 오픈AI를 상대로 법적 대응에 나섰다. 또한 스카이의 목소리가 지나치게 남성 중심의 환상에서 나온 것 같다는 비판이 제기되면서 기업의 안전 문화 프로세스가 안일하다는 비판이 제기되고 있다.
오픈AI에 대한 스칼렛 요한슨의 법적대응에 대해서는 올 것이 왔다는 반응이다.
할리우드 배우 스칼렛 요한슨이 오픈AI(OpenAI)를 상대로 변호사를 고용한 이유와 전망에 대해 워싱턴포스트, CNN 등 외신이 22일(현지시간) 보도했다.
요한슨은 지난 월요일 성명을 통해 “샘 알트만 오픈AI CEO 샘 알트만이 챗GPT(ChatGPT) 업데이트와 함께 발표된 합성 음성이 자신의 음성과 무서울 정도로 유사하게 사용한 사실에 충격과 분노를 넘어 믿기지 않는다”고 밝혔다.
이 성명은 오픈AI가 요한슨이 출연한 디스토피아 영화 에서 묘사된 가상의 음성 비서와 목소리를 비교한 후 챗GPT 업데이트를 일시적으로 고려중이라고 밝힌 다음 나온 것이다.
오픈AI의 퇴각은 ‘스카이’(Sky)로 알려진 인공 음성에 대한 여론의 반발에 따른 것입니다. 비평가들은 이 음성이 ‘사용자에게 지나치게 친숙하고 마치 남성 개발자의 환상에서 나온 것처럼 들린다’고 지적하고 있다. 이러한 비판들은 대부분 ‘경쾌하게’ 이뤄졌지만 널리 퍼지기 시작하면서 오픈AI에 타격을 주고 있다.
요한슨에 따르면, 알트만은 지난 9월 챗GPT 4.0 시스템의 목소리를 위해 고용 제안을 해왔으나, 요한슨은 개인적인 이유로 이를 거절했다. 또한 챗GPT 4.0 데모가 출시되기 이틀 전, 알트만은 재차 요한슨 에이전트를 통해 목소리 협업에 대한 재고를 요청한 것으로 나타났다.
결국 요한슨은 오픈AI의 챗GPT 4.0 출시 이후 변호사를 고용했으며, 변호사가 알트만에게 법적인 내용이 담긴 두 통의 서한을 보낸 후에야 오픈AI가 스카이의 목소리를 삭제하는데 마지못해 동의했다.
앞서 오픈AI는 스카이의 목소리에 대한 비판이 일자 오픈AI는 블로그 게시물을 통해 “문제의 목소리는 요한슨의 목소리에서 파생된 것이 아니라 자신의 자연스러운 목소리를 사용하는 다른 전문 배우의 목소리”며 “결코 요한슨의 목소리를 닮으려고 의도한 것도 아니다”고 해명했다. 알트만 역시 스카이의 목소리는 다른 배우가 맡았다는 기업의 입장을 반복했다. 그는 “요한슨에 대한 존경심으로 우리는 제품에 스카이의 목소리를 사용하는 것을 잠시 중단했다”고 밝혔다.
그러나 알트만조차도 제품 발표 당일 소셜플랫폼 X에 ‘her’이라는 글을 게시하며, 사용자들이 챗GPT 4.0을 통해 영화 의 요한슨의 목소리를 떠올리도록 유도했다. 물론 요한슨은 이를 놓치지 않았으며 “알트만이 목소리의 유사성을 암시하기 위해 해당 게시글을 올렸다”고 지적했다.
스카이를 둘러싼 비판은 주로 백인 남성이 주도하거나 자금을 지원하는 기술 회사가 설계한 기술의 잠재적 편견에 대한 광범위한 사회적 우려를 강조하고 있다.
이번 오픈AI의 스카이 목소리 사용에 대한 일시 중단 발표는 퇴사한 직원이 기업의 우선순위에 의문을 제기한 후, 오픈AI 리더들이 주말 동안 기업의 안전 관행을 방어한 후에 나온 것이다.
지난주 공동창립자이자 수석 과학자 일리야 수츠케버와 함께 오픈AI를 떠난 얀 라이크는 X에 “지난 몇년간 안전 문화와 프로세스가 오픈AI에서는 제품에 밀려 뒷자리를 차지했다”며 “오픈AI는 인간보다 더 똑똑할 수 있는 미래의 ‘일반인공지능’(AGI)을 준비하는 데 충분한 자원을 투자하지 않고 있다”는 우려를 제기했다. 라이크는 오픈AI에서 장기적인 AI 안전에 중점을 둔 팀을 이끌어 왔다.
오픈AI 최근 몇주 동안 라이크가 이끌었던 팀을 해산하기 시작했으며, 그 대신 다양한 연구 그룹에 걸쳐 팀 구성원을 통합하고 있는 것으로 알려졌다. 오픈AI 대변인은 “이러한 구조가 기업이 안전 목표를 더 잘 달성하는 데 도움이 될 것”이라고 언론을 통해 밝혔다.
요한슨은 “우리는 딥페이크와 자신의 초상, 작업, 정체성을 보호하기 위해 고군분투하고 있는 시대에 속에서 이러한 문제는 절대적으로 명확해야 한다고 믿는다”며 “개인의 권리가 보호될 수 있도록 투명성과 적절한 법안의 통과를 기대한다”라고 성명을 통해 밝혔다.
