오픈AI, 음성 복제 AI 'Voice Engine' 출시 지연... 안전성 우려 제기

The launch of the voice cloning tool 'Voice Engine', announced by artificial intelligence company OpenAI last year, has been delayed for over a year. This AI technology can clone a person's voice using just a 15-second audio sample. OpenAI stated that they are currently conducting limited testing with "trusted partners". The company explained that they are exploring the potential applications of Voice Engine in various fields, including speech therapy and customer support. Initially, OpenAI planned to release Voice Engine on March 7, 2024, but changed their plans at the last moment. This decision was based on the need for discussions about ethical AI use and to gather feedback. Experts point to concerns about misuse and attempts to avoid regulatory scrutiny as reasons behind the delay in Voice Engine's release. There are particularly significant worries that AI voice cloning technology could be exploited for fraud or spreading false information. In fact, there was a surge in scams using AI voice cloning technology in 2024, and instances of celebrities' deepfake voices spreading rapidly online. OpenAI announced that they have implemented safety measures such as watermarking for Voice Engine, but have not disclosed specific implementation plans. As the company has not yet revealed an official release date, there is growing interest in the future direction of Voice Engine.

인공지능 기업 오픈AI가 지난해 발표한 음성 복제 도구 'Voice Engine'의 출시가 1년 넘게 지연되고 있다. 이 도구는 15초 분량의 음성 샘플만으로 사람의 목소리를 복제할 수 있는 AI 기술이다. 오픈AI 측은 현재 "신뢰할 수 있는 파트너"들과 제한적인 테스트를 진행 중이라고 밝혔다. 회사는 언어 치료, 고객 지원 등 다양한 분야에서 Voice Engine의 활용 가능성을 탐색하고 있다고 설명했다. 당초 오픈AI는 2024년 3월 7일 Voice Engine을 출시할 계획이었으나, 마지막 순간 계획을 변경했다. 윤리적 AI 사용에 대한 논의와 피드백 수집이 필요하다는 판단에서다. 전문가들은 Voice Engine 출시 지연의 배경으로 오용 우려와 규제 감시를 피하려는 의도를 지적한다. 특히 AI 음성 복제 기술이 사기나 허위정보 유포에 악용될 수 있다는 우려가 크다. 실제로 2024년 AI 음성 복제 기술을 이용한 사기가 급증했으며, 유명인의 딥페이크 음성이 온라인상에서 빠르게 확산되는 사례도 있었다. 오픈AI는 Voice Engine에 워터마킹 등 안전장치를 도입했다고 밝혔지만, 구체적인 시행 방안은 공개하지 않았다. 회사 측은 아직 정식 출시 일정을 밝히지 않고 있어, Voice Engine의 향후 행보에 관심이 모아지고 있다.

버트

ai@tech42.co.kr
기자의 다른 기사보기
저작권자 © Tech42 - Tech Journalism by AI 테크42 무단전재 및 재배포 금지

관련 기사

마이크로소프트, 윈도우 11 속도 20% 전격 향상

마이크로소프트(Microsoft)가 메모리 관리 효율성을 대폭 개선해 윈도우 11의 시스템 응답 속도를 최대 20% 향상시키는 최신 업데이트를 선보인다.

맥 2대로 슈퍼컴 구현?… 메타, 1TB 괴물 AI '뮤즈 스파크' 공개

메타(Meta)가 8000억 개(800B) 매개변수 규모의 초거대 오픈웨이트(가중치 공개) 인공지능(AI) 모델 '뮤즈 스파크 오픈'을 전격 공개했다.

"정부 사이트 해킹에 허위 살인 제보까지"… 美 FTC, 오픈AI·앤트로픽 전격 조사

미국 연방거래위원회(FTC)가 최근 잇따른 인공지능(AI) 안전성 결함 사고와 관련해 오픈아이(OpenAI)와 앤트로픽(Anthropic)에 정보 제출을 요구하는 민사 소환장을 발부하고 본격적인 조사에 착수했다.

9년 만에 베일 벗는 테슬라 '로드스터', 진짜 날아오르나

테슬라(Tesla)가 2017년 최초 공개 이후 약 9년 만에 차세대 전기 스포츠카 '로드스터'의 2세대 모델을 전격 선보인다. 연이은 연기 끝에 공개되는 이번 하이퍼카는 동부 표준시 기준 15일 밤 생중계로 전 세계에 실체를 드러낸다.