세계 4대 회계법인 중 하나인 KPMG가 인공지능(AI)의 유용성을 강조하기 위해 발간한 공식 보고서가 대규모 'AI 환각(할루시네이션)' 현상으로 채워진 사실이 밝혀져 글로벌 금융 시장에 충격을 주고 있다.

AI 콘텐츠 탐지 전문기업 'GPTZero'와 외신 파이낸셜타임스(FT)의 공동 조사 결과에 따르면, 지난해 10월 KPMG가 발행한 '에이전틱 AI 시대의 탁월함의 재정의' 보고서 내 핵심 인용구와 기업 사례 중 상당수가 완전히 조작되거나 왜곡된 것으로 확인됐다.

조사 결과 보고서에 수록된 45개의 각주 및 인용 출처 중 정상적인 진본 데이터는 단 5개에 불과했다. 나머지 28개는 실제 존재하는 자료의 제목을 그럴듯하게 짜깁기해 가짜 구성 요소를 덧붙였고, 12개는 출처 확인이 불가능할 정도로 모호하게 조작된 이른바 '바이브 사이팅(분위기 맞춤형 허위 인용)'인 것으로 드러났다.

기업들의 실제 AI 도입 사례도 전방위적으로 조작됐다. KPMG는 에미레이트 항공이 고객의 항공편을 스스로 변경해 주는 AI 챗봇 '사라'를 도입했다고 명시했으나, 실제 사라는 AI 기능과 예약 변경 권한이 없는 일반 모바일 비서 앱이었다. 스위스 투자은행 UBS가 투자 자문과 준법 감시에 에이전틱 AI를 전면 통합했다는 내용과 스위스 연방철도(SBB)가 맞춤형 AI 여정 최적화 시스템을 운용 중이라는 내용 역시 당사자들로부터 "사실무근"이라는 공식 답변을 받았다.

공신력 있는 싱크탱크의 보고서가 왜곡된 AI 데이터 가공으로 인해 정보 생태계를 오염시킬 수 있다는 비판이 고조되자, KPMG 측은 뒤늦게 해당 보고서를 전면 철회하고 발간 경위에 대한 내부 정밀 조사에 착수했다.