Deepfake scams are costing businesses around the world millions of dollars, and cybersecurity experts have warned that the situation could get worse as criminals exploit generative artificial intelligence (AI) to perpetrate fraud. David Fairman, Chief Information Officer and Chief Security Officer, Netscope Asia Pacific, said “These threats are on the rise as generative AI technologies become more widely known to the public, with the popularity of OpenAI's ChatGPT, which launched in 2022,” said David Fairman, chief information officer and security officer for Netscope Asia Pacific.
“Public access to these services has lowered the barrier to entry for cybercriminals. They don't need a specialized skill set anymore,” he said in a recent report on tech-enabled hacking and fraud. A deepfake is a video, voice, or image of a real person that is digitally altered and manipulated by artificial intelligence to appear realistic. In one of the biggest cases of the year, an employee of a Hong Kong financial firm wired more than $25 million to a criminal organization posing as his boss during a video conference. Hong Kong authorities revealed the incident to local media in February. The fraudsters tricked the victimized employees by using deepfakes to recreate the faces of not only the CFO of the company at the time, but also all of the employees present in the video conference. “In a video conference with multiple people, all the people he saw were fake,” a Hong Kong police official explained at the time.

딥페이크 사기가 전 세계 기업들에게 수백만 달러의 손실을 입히고 있으며, 사이버 보안 전문가들은 범죄자들이 생성 인공지능(AI)을 악용하여 사기를 치르면서 상황이 악화될 수 있다고 경고했다. 넷스코프 아태지역 최고 정보 책임자 겸 최고 보안 책임자인 데이비드 페어먼은 "2022년 출시된 OpenAI의 챗GPT 인기를 계기로 생성 인공지능 기술이 대중에게 널리 알려지면서 이러한 위협이 증가하고 있다"고 말했다. 또한 "이러한 서비스에 대한 대중의 접근성이 사이버 범죄자들의 진입 장벽을 낮췄다. 이제는 특별한 기술 세트가 필요 없게 되었다"라고 테크 기술 기반의 해킹과 사기 범죄에 대한 경각심을 불러일으킨 바 있다. 딥페이크는 실제 사람의 비디오, 음성 또는 이미지를 인공지능을 통해 디지털로 변조 및 조작하여 사실적으로 위장하는 것을 뜻한다. 한편, 올해 가장 큰 규모의 사건 중 하나로 홍콩 금융 업체 직원이 화상회의 시, 직장 상사로 위장한 범죄 조직에 2,500만 달러(약 340억 원) 이상을 송금하는 사기극이 있었다. 홍콩 당국은 2월 지역 언론에 해당 사실을 밝힌 바 있다. 사기꾼 집단은 당시 피해 회사의 CFO 뿐 아니라 화상회의에 참석했던 모든 직원의 얼굴을 딥페이크로 재현해 피해 직원을 속인 것으로 드러났다. 당시 홍콩 경찰 당국자는 "여러 명이 참석한 화상 회의에서, 이 직원이 봤던 모든 사람들은 가짜였다"고 설명했다.