"여보, 나야. 교통사고가 났어. 합의금 좀 보내줘."
오후 3시, 회사원 김 모 씨의 스마트폰이 울린다. 분명 남편의 목소리다. 다급한 호흡과 평소 말끝의 억양까지 그대로다. 송금 계좌를 받아 적기 직전, 김 씨가 한마디를 던진다. "오늘 아침에 우리가 먹은 게 뭐였더라." 전화는 곧장 끊긴다. 가족끼리 미리 약속해 둔 '비상용 단어' 한 줄이 사기를 막아낸 순간이다.
이 장면은 가상이다. 그러나 가상이라 부르기 어려울 만큼, 같은 통화는 한국에서 매일 시도되고 있다. 가족의 목소리는 이미 신원 증명의 자격을 잃어 가고 있다.
단 몇 초짜리 음성 파일만 있으면 인공지능(AI)은 누군가의 가족 행세를 시작할 재료를 갖춘다. 음성 복제 서비스인 애니보이스(AnyVoice)와 카르테시아(Cartesia)는 약 3초 분량의 샘플로 개인의 발성을 흉내 내는 모델을 즉시 생성한다. 무료 도구도 있고 가입 절차도 필요 없다. SNS에 올린 인사말, 가족 단톡방에 남긴 음성 메시지 한 토막이 곧 사기에 쓰일 재료가 되는 셈이다.
피해 규모는 이미 위험 수위를 넘었다. 경찰청 집계에 따르면 2025년 1월부터 10월까지 누적된 보이스피싱 피해액은 1조 566억 원, 발생 건수는 1만 9,972건이다. 정부가 공식 집계를 시작한 2006년 이래 처음으로 연간 피해액이 1조 원 선을 넘긴 수치다. 같은 기간 전년의 6,081억 원과 비교하면 73.8% 증가했다. 그중 검찰·경찰·금융감독원 등을 사칭하는 '기관사칭형'이 전체 피해액의 77%를 차지했고, 이 유형의 피해 규모는 최근 10년 사이 15배 넘게 커졌다. 건당 평균 피해액 역시 2021년 2,498만 원에서 2025년 5,290만 원으로 두 배 수준으로 증가했다.
영상 분야의 추세도 만만치 않다. 2024년 11월부터 2025년 10월까지 발생한 사이버 성범죄는 4,413건으로 직전 동기 대비 35% 늘었고, 이 중 딥페이크 합성물이 1,553건으로 가장 큰 비중을 차지했다. 경찰의 검거 인원도 3,557명으로 47.8% 증가했다.
수법 자체도 진화했다. 단순 송금 유도에 그치던 과거와 달리, 최근에는 복제된 가족 목소리로 다급한 상황을 연출한 뒤 본인 인증 절차를 가장해 휴대전화에 원격 제어 앱을 설치하도록 유도한다. 합성된 가족 영상통화까지 동원되면 의심의 단서는 거의 사라진다. 가족이 무심코 올린 5초짜리 영상 한 편이 자산을 흔드는 입구가 되는 식이다.
국제기구도 경고음을 키우고 있다. 유엔(UN) 산하 마약·범죄사무소(UNODC)는 지난 3월 17일 보고서에서 동남아시아 사기 거점이 단순 송금 사기를 넘어 자금세탁·인신매매 등 조직범죄 네트워크와 결합하고 있으며, 그 핵심 무기로 AI 기반 딥페이크와 음성 복제가 자리 잡고 있다고 지적했다.
미국 신용정보기업 익스피리언이 올해 1월 내놓은 2026 사기 예측 보고서는, 2024년 미국 소비자가 사기로 잃은 금액이 약 17조 5,000억 원(125억 달러·미국 연방거래위원회 집계)에 이른다며, 올해는 에이전틱 AI와 딥페이크 면접자, 스마트홈 침투 같은 새로운 공격면이 본격화될 것으로 전망했다.
국내 대응도 속도를 내고 있다. 행정안전부와 국립과학수사연구원은 공동 개발한 딥페이크 탐지 모델을 제9회 전국동시지방선거에 본격 가동하고 있다. 영상 전반의 흐름과 얼굴 특정 부위를 동시에 살피는 방식으로, 단일 모델 기준 92%, 여러 모델을 결합하는 앙상블 기법 적용 시 약 97%의 탐지 정확도를 확보했다는 것이 정부 측 설명이다. 중앙선거관리위원회가 6·3 지방선거와 관련해 플랫폼 사업자에 딥페이크 게시물 삭제를 요청한 건수는 9,956건으로, 2024년 22대 국회의원 총선 당시 388건과 비교해 25배 넘게 늘었다. 선거운동 기간 중 추가 신고가 이어지고 있어 최종 수치는 더 늘어날 전망이다.
당정의 보이스피싱 근절 종합대책도 효과의 단서를 내놓기 시작했다. 정부 합동 대응이 본격화되면서 2026년 들어 보이스피싱 피해 건수와 금액은 7개월 연속 감소세로 돌아섰다. 다만 AI 음성 복제와 딥페이크 영상이 결합한 신종 수법이 그 자리를 빠르게 채우고 있어, 일부 지표의 둔화가 위협의 완화로 이어질지는 아직 단정하기 어렵다.
제도적 안전망도 가동되기 시작했다. 한국은 올해 1월부터 AI 기본법 시행령을 발효해, 생성형 AI로 만든 콘텐츠에 라벨을 표시하도록 의무화했다. 시장의 변화도 가파르다. 글로벌 시장조사 자료에 따르면 딥페이크 탐지 시장 규모는 2023년 55억 달러에서 2026년 157억 달러로, 연평균 42% 수준의 성장세를 보일 전망이다. AI가 만든 사기를 또 다른 AI로 막는 영역이 하나의 산업으로 자리 잡는 모습이다.
그러나 방어 기술이 빨라져도, 사기는 늘 한 발 앞에 서 있다. AI가 합성한 가족의 목소리는 더 이상 '예외적 위협'이 아니라 '일상의 변수'다. 가족끼리 미리 약속해 둔 비상용 단어 한 줄도, 다급한 전화에 곧장 송금하지 않고 본인 번호로 다시 거는 짧은 절차 하나도 갖추지 않은 가정은 다음 통화에서 그대로 표적이 된다. 오늘 밤 걸려 온 다급한 가족의 목소리. 그것이 진짜라고 단정할 근거는 더 이상 어디에도 남아 있지 않다.
