AI가 만들어낸 가짜 참고문헌이 의학 논문과 전문가 저서에 무더기로 침투하며 학술 신뢰성에 경고등이 켜졌다.

컬럼비아대 간호대학 겸 데이터과학연구소 맥심 토파즈 부교수 연구팀이 의학저널 '더 랜싯(The Lancet)'에 발표한 연구에 따르면, 공개 의학 논문 데이터베이스 펍메드 센트럴에 등록된 약 250만 편의 논문과 9,700만 건의 인용(포춘 기준)을 분석한 결과, 약 3,000편에서 4,000건 이상의 가짜 참고문헌이 발견됐다.

가짜 참고문헌 비율은 2023년 논문 2,828편당 1건에서 2025년 458편당 1건으로 높아졌고, 2026년 1~2월에는 277편당 1건까지 치솟아 3년 만에 12배 이상 급증했다. 특히 가짜 인용이 포함된 논문의 98.4%는 연구 시점까지 출판사에 의해 철회되지 않은 채 학술 데이터베이스에 유통되고 있어 문제의 심각성이 크다. AI 연구자임에도 직접 가짜 인용이 삽입된 논문을 제출할 뻔했던 토파즈 교수는 "임상 근거의 사슬에 허구의 연구가 끼어들면, 그 위에 쌓인 모든 구조가 오염된다"고 경고했다.

법률 분야에서도 AI가 생성한 잘못된 내용을 인용한 판례가 1,459건 이상 기록됐으며, 1년 전 월 2~3건이던 발생 빈도는 현재 하루 5건 수준으로 늘었다. 토파즈 교수는 "해결책은 AI 도구 사용 중단이 아니라, 검증 절차를 작업 흐름에 내재화하는 것"이라고 강조했다.