사람처럼 듣고 동시에 말하는 AI가 등장하면서, ‘목소리 데이터는 누가 갖게 되는가’라는 질문이 새로운 화두로 떠올랐다.
오픈AI는 지난 8일(현지시각) 챗GPT 음성 대화를 새로 설계한 'GPT-라이브(GPT-Live)'를 공개했다. 기존 어드밴스드 보이스 모드는 한쪽이 말을 마쳐야 다른 쪽이 답하는 순차 대화였다. GPT-라이브는 다르다. 상대의 말을 들으면서 동시에 반응하는 '양방향 동시통신(full-duplex)' 방식이다. 대화 중간에 자연스럽게 끼어들거나 실시간 통역도 가능해졌다.
모델은 두 종류다. 대형 모델 GPT-라이브-1과 경량 모델 GPT-라이브-1 미니가 함께 나왔다. 무료 이용자는 미니 모델을 기본으로 쓰고, 유료 구독자는 대형 모델을 쓸 수 있다. 복잡한 추론이나 검색이 필요한 질문은 대화 중 뒤에서 최신 모델 GPT-5.5가 처리해 결과를 자연스럽게 대화에 끼워 넣는다. iOS·안드로이드·웹 등 전 플랫폼에 순차 배포되고 있다.
문제는 상시 음성 대화가 늘어날수록 수집되는 데이터의 성격이다. 목소리에는 말의 내용뿐 아니라 억양, 말투, 감정 상태까지 담긴다. 오픈AI 고객지원 페이지에 따르면 음성·영상 클립은 대화 기록과 함께 최대 30일간 보관된다.
기본적으로는 답변을 만든 뒤 오디오가 텍스트로 바뀌면 원본 음성은 삭제된다. 다만 이용자가 '모두를 위한 모델 개선'에 동의하면 클립이 학습에 쓰일 수 있다. 오픈AI는 학습에 쓰기 전 개인정보를 줄이는 조치를 거친다고 밝혔지만, 목소리처럼 식별성이 강한 데이터가 어디까지 재활용되는지는 이용자가 가늠하기 어렵다.
규제는 이 흐름을 따라잡지 못하고 있다. 유럽연합(EU)은 인공지능법(AI Act)에 따라 2025년 2월 2일부터 직장과 교육기관에서 생체정보로 개인의 감정을 추론하는 AI 사용을 금지하고 있다.
생체정보를 다루는 고위험 AI 시스템 의무 규정은 원래 2026년 8월 2일 전면 시행될 예정이었다. 하지만 지난 6월 29일 EU 이사회가 규제 부담을 완화하는 '디지털 옴니버스' 개정안을 최종 승인하면서 적용 시점이 2027년 12월 2일로 미뤄졌다.
미국에서는 일리노이주 생체정보프라이버시법(BIPA)이 음성 지문(voiceprint)을 생체정보로 규정해 동의 없는 수집·활용에 소송 리스크를 부과하고 있다. 캘리포니아도 프라이버시권리법(CPRA)에서 음성 지문을 민감정보로 분류한다.
국내 상황도 크게 다르지 않다. 개인정보보호위원회는 2025년 8월 '생성형 인공지능(AI) 개발·활용을 위한 개인정보 처리 안내서'를 내고 이미지·영상·음성·텍스트 가명처리 기준을 제시했다. 하지만 생성형 AI 전반에 대한 원론적 가이드라인에 가깝다.
상시 음성 대화로 목소리·억양·감정 데이터를 실시간으로 쌓는 신유형 서비스를 겨냥한 규율은 아직 없다는 게 업계 시각이다. 저장 기간, 목적 외 활용, 제3자 제공 기준을 구체적으로 정의한 법적 장치가 없다 보니 서비스별 자율 정책에 기대는 실정이다.
AI 비서가 대화 상대에 가까워질수록 목소리는 단순한 입력값이 아니라 신원과 감정을 담은 민감정보로 다뤄질 필요가 커진다. 기술이 먼저 달리고 규제가 뒤늦게 따라붙는 익숙한 패턴이 음성 AI에서도 반복될지, GPT-라이브 공개를 계기로 지켜볼 대목이다.
