[목소리 도둑 ②] 귀는 왜 의심하지 못할까… 5초 만에 가짜를 잡는 AI

  • LG유플러스 '안티딥보이스', 3,000시간을 학습해 통화 중에 경고한다
  • 삼성전자와 이통 3사 앱은 이미 기본값이다… 켜두지 않으면 없는 기능
LG유플러스가 위조 음성 탐지 기술 '안티딥보이스'를 선보인 건 2025년 6월 26일이다. 통화가 시작되고 약 5초 안에 상대 목소리의 합성 여부를 판단해 경고를 띄운다.
5초 만에 딥보이스 음성을 판독할 수 있는 AI가 나타났다. (사진=생성형 AI)

LG유플러스가 위조 음성 탐지 기술 '안티딥보이스'를 선보인 건 2025년 6월 26일이다. 통화가 시작되고 약 5초 안에 상대 목소리의 합성 여부를 판단해 경고를 띄운다. 회사는 3,000시간, 약 200만 통화 분량을 학습시켰다고 밝혔다. 위조된 음성의 어색한 발음과 주파수 패턴 이상을 찾아내는 방식이다.

분석은 휴대폰 안에서 끝난다. 음성 데이터를 외부 서버로 보내지 않는다는 게 이 회사의 설명이다. 기능은 자사 AI 통화 앱 '익시오'에 탑재됐다. 같은 회사는 국립과학수사연구원과 함께 실제 범죄자 음성과 통화 음성을 실시간으로 비교하는 기술도 개발 중이며, 과학기술정보통신부의 규제 특례를 통해 적용을 준비하고 있다.

원리는 생각보다 단순하다. 합성 음성에는 만들어진 흔적이 남는다. 인공지능이 음성을 만들어내는 마지막 단계인 보코더는 호흡 소리와 입 움직임, 실내 울림까지 흉내 내지만 완벽하지는 않다. 사람은 이 틈을 못 듣고, 기계는 찾아낸다. 합성음의 보코더 흔적을 잡는 연구가 국제 학계에서 꾸준히 나오는 이유다. 음성 위조와 탐지를 겨루는 국제 대회(ASVspoof)는 2026년에 다섯 번째 판을 진행 중이고, 한국어 데이터셋으로 탐지 모델 성능을 비교한 연구도 별도로 나와 있다.

통신사 기능은 이제 기본에 가깝다. 삼성전자는 갤럭시 기본 전화 앱에 보이스피싱 의심 알림을 넣었고, 운영체제 버전이 맞으면 따로 켤 필요가 없다. 모르는 번호로 전화가 오면 통화 내용을 분석해 '의심'과 '경고' 두 단계로 알려주며, 2025년 7월 폴더블 신제품에 처음 들어간 이 기능은 지금 기본 활성화 상태다. 연락처에 없는 번호의 발신자 정보와 스팸·피싱 여부를 미리 보여주는 기능도 함께 제공된다.

SK텔레콤은 '에이닷 전화'로 통화 중 대화를 실시간 분석해 '의심'과 '위험'으로 나눠 알린다. 발신 전화를 다른 앱이 가로채는 순간을 감지해 알려주는 기능도 있다. 범죄자 목소리를 탐지하는 기능은 곧 내놓겠다고 예고했다. KT는 '후후' 앱에 문맥 탐지, 화자 인식, 딥보이스 탐지를 묶었다. 회사에 따르면 지난해 4,680만 건이 넘는 통화 가운데 3,000여 건의 보이스피싱을 막아냈다. 통신사와 무관하게 안드로이드에서 쓸 수 있고, 저사양 기기도 지원하도록 엔진을 가볍게 만들었다.

정부도 함께 움직인다. 과학기술정보통신부는 삼성전자와 이통 3사가 제공하는 탐지·알림 서비스를 국민이 이용하도록 권고하고, 탐지 성능 고도화를 위한 데이터 수집·공유 기반을 구축한다고 밝혔다. 통화 내용 분석이 기기 안에서 이뤄지도록 해 개인정보 유출 우려도 줄였다는 설명이다.

경찰도 앱을 하나 배포한다. '시티즌코난'은 휴대폰에 깔린 악성 앱과 원격제어 앱을 찾아낸다. 다만 논란은 남아 있다. 지난 10월 국정감사에서 2021년 한국지능정보사회진흥원 사업비 약 15억원이 투입된 이 앱이 기존 민간 앱 기술을 활용했고, 일부 기능이 휴대폰 기본 보안 기능과 겹친다는 지적이 나왔다. 앱 패키지 이름에 민간 업체가 운영하던 다른 앱 이름이 남아 있다는 점도 쟁점이 됐다. 경찰대는 개발에 직접 참여하지 않았고 현재 운영은 민간 업체가 맡고 있다는 입장을 밝혔다.

휴대폰에 깔린 악성 앱과 원격제어 앱을 찾아내는 '시티즌코난' 앱. (사진=경찰청)

탐지 기능을 켜두면 분명히 도움이 된다. 다만 결과를 그대로 믿어서는 안 된다. 기계가 "위험"이라고 하면 위험일 가능성이 크지만, "안전"이라는 판정이 안전을 보장하지는 않는다. 판정을 기다리는 동안 통화는 계속되고, 돈은 움직인다.

가장 확실한 방어는 기계가 아니다. 전화를 끊고, 내가 저장해 둔 번호로 다시 거는 것. 복제된 목소리는 먼저 걸려온 전화에서만 작동한다. 되걸면 받지 못한다. 금융감독원이 예방 수칙에 "가족도 AI 조작을 의심해 일단 끊고 직접 확인하라"고 넣은 이유도 여기에 있다.

자녀(부모)의 감금 영상을 받아 본다면 꼭 자녀(부모)와 직접 통화·영상통화로 안전을 확인하는 동시에 즉시 112에 신고해야 한다.

[목소리 도둑 ①] 아들 목소리로 "살려줘"… 그 전화, 3초 녹음으로 만든 가짜였다

김광우 기자

kimnoba@tech42.co.kr
기자의 다른 기사보기
저작권자 © Tech42 - Tech Journalism by AI 테크42 무단전재 및 재배포 금지

관련 기사

[목소리 도둑 ③] 돈 보낸 뒤 30분, 순서대로 하면 된다

통신사기피해환급법 제4조는 금융회사가 사기이용계좌로 의심할 만한 사정이 있으면 지급정지 등 조치를 할 수 있게 한다. 피해구제 신청이 접수되고 계좌가 의심 대상이 되면, 금융회사는 해당 계좌 전부를 즉시 정지한다.

[현장] “AI가 만들고 팬이 키운다”…K-콘텐츠, 다음 경쟁력은 ‘주도권’

이번 행사에서는 AI 전환에 따른 콘텐츠 산업의 구조적 변화부터 팬덤 비즈니스의 확장, K-콘텐츠의 지속가능성까지 폭넓은 논의가 이어졌다. 이윤경 한국문화관광연구원 콘텐츠연구본부장, 서우석 비마이프렌즈 대표, 안숭범 경희대학교 K-컬처·스토리콘텐츠연구소장은 각기 다른 관점에서 산업의 현주소를 진단했다. 세 발표를 관통하는 질문은 명확했다. 기술과 플랫폼이 콘텐츠의 생산과 소비를 바꾸는 시대, 한국 콘텐츠 산업은 무엇을 경쟁력으로 확보하고 어떻게 성장의 주도권을 지킬 것인가.

[DMI 2027] “AI 쓰는 팀과 AI가 일하는 팀은 다르다”… 노션 채지선 총괄이 짚은 AX의 현실과 지향점

서울 양재동 엘타워에서 열린 '디지털 마케팅 인사이트 2027(Digital Marketing Insight 2027, 이하 DMI 2027)'에서 채지선 노션 마케팅 총괄은 'AI가 일하는 조직은 무엇이 다른가? AI Agent가 바꾸는 마케팅팀의 일하는 방식'을 주제로 조직의 AI 전환 수준과 실제 업무에 변화를 주는 방식에 대해 공유했다.

[인터뷰] 책 한 권에서 AI 데이터로…전병욱 멘탯 대표가 그리는 출판업계 AX

2025년 7월 설립된 멘탯(Mentat)은 출판사와 AI 기업 사이에서 이 거래를 연결하는 스타트업이다. 출판사와 도서 이용 권리를 계약하고, AI가 활용할 수 있는 형태로 콘텐츠를 가공해 공급한다. 권리 확인과 데이터 변환뿐 아니라 사용 내역 관리와 수익 정산까지 사업 영역에 포함한다. 계약 출판사는 최근 약 95곳으로 늘었고, AI 활용 권리를 확보한 도서는 약 3만 4000종, 글로벌 AI 기업과 체결한 누적 라이선싱 계약 규모는 약 150억원에 이른다.