MIT 연구진이 기업의 생성형 AI 시범사업 중 95%가 수익 창출에 실패했다는 충격적인 연구 결과를 발표했다.
18일(현지시간) 포춘지에 따르면, MIT 미디어랩 NANDA 이니셔티브가 발표한 '생성형 AI 격차: 2025년 비즈니스 AI 현황' 보고서는 대부분의 기업 AI 프로젝트가 기대에 못 미치는 성과를 거두고 있다고 밝혔다.
이번 연구는 150명의 기업 리더 인터뷰, 350명의 직원 설문조사, 300개 공개 AI 배포 사례 분석을 바탕으로 진행됐다. 연구 결과에 따르면 생성형 AI 시범사업 중 단 5%만이 빠른 수익 증대를 달성했으며, 나머지 95%는 손익계산서상 측정 가능한 영향을 거의 또는 전혀 나타내지 못했다.
보고서의 주저자인 MIT 미디어랩 커넥티드 AI 그룹 책임자 아디티아 찰라팔리는 "일부 대기업의 시범사업과 젊은 스타트업들이 생성형 AI로 정말 뛰어난 성과를 거두고 있다"고 말했다. 그는 "19세나 20세가 이끄는 스타트업들이 1년 만에 매출을 0달러에서 2000만 달러로 끌어올린 사례가 있다. 이들은 하나의 문제점을 선택해 잘 실행하고, 자신들의 도구를 사용하는 기업들과 현명하게 파트너십을 맺기 때문"이라고 설명했다.
연구진은 95%의 기업에서 생성형 AI 구현이 부진한 핵심 원인이 AI 모델의 품질이 아니라 도구와 조직 모두의 '학습 격차'에 있다고 분석했다. 경영진들이 종종 규제나 모델 성능을 탓하지만, MIT 연구는 잘못된 기업 통합 방식을 지적했다.
찰라팔리는 "챗GPT 같은 범용 도구들은 유연성 때문에 개인에게는 뛰어난 성과를 보이지만, 워크플로에서 학습하거나 적응하지 않기 때문에 기업 환경에서는 정체된다"고 설명했다.
연구 데이터는 자원 배분에서도 불일치를 드러냈다. 생성형 AI 예산의 절반 이상이 영업 및 마케팅 도구에 투입되고 있지만, MIT는 백오피스 자동화에서 가장 큰 투자수익률을 발견했다. 이는 비즈니스 프로세스 아웃소싱 제거, 외부 에이전시 비용 절감, 운영 간소화를 통해 달성된다.
이같은 발견은 다른 연구기관의 조사 결과와도 일치한다. 액센츄어는 재무 부서의 거래업무 최대 80%가 자동화될 수 있다고 분석했으며, 아메리칸 익스프레스는 결제 자동화를 통해 기업이 재무 부서에서 연간 500시간 이상을 절약할 수 있다고 보고했다. 실제로 인도 IT 기업 엠퍼시스(Mphasis)는 Microsoft 365 Copilot 도입 4주 만에 루틴 업무에서 989시간을 절약해 INR 989K(약 1570만 원) 상당의 가치를 창출했다고 발표했다.
성공적인 AI 배포의 비결은 도입 방식에 있다. 전문 업체로부터 AI 도구를 구매하고 파트너십을 구축하는 방식은 약 67%의 성공률을 보인 반면, 내부 개발은 3분의 1 정도의 성공률만을 기록했다.
이는 2025년 많은 금융서비스 및 기타 고도로 규제받는 업계 기업들이 자체 독점 생성형 AI 시스템을 구축하고 있는 상황에서 특히 주목할 만한 발견이다. MIT 연구는 기업들이 독자적으로 진행할 때 훨씬 더 많은 실패를 경험한다는 것을 시사했다.
이같은 결과는 다른 AI 전문기관들의 분석과도 일치한다. 엔터프라이즈AI 전문업체 엔터프라이즈봇은 "생성형 AI처럼 빠르게 움직이는 분야에서는 구매가 실제로 자체 구축보다 더 많은 유연성을 제공할 수 있다"며 "자체 LLM에 갇혀 있는 것보다 벤더 락인이 오히려 더 나을 수 있다"고 분석했다.
IBM도 최근 보고서에서 "기업 차원의 AI 이니셔티브가 단 5.9%의 투자수익률을 달성하는 반면 10%의 자본 투자가 필요하다"며 "성급한 자체 개발보다는 신중한 전략적 접근이 필요하다"고 지적했다.
찰라팔리는 "우리가 방문한 거의 모든 곳에서 기업들이 자체 도구를 구축하려고 시도하고 있었다"며 "그러나 데이터는 구매한 솔루션이 더 신뢰할 만한 결과를 제공한다는 것을 보여줬다"고 말했다.
보고서는 또한 챗GPT 같은 승인되지 않은 도구인 '섀도우 AI(Shadow AI)'의 광범위한 사용과 AI가 생산성과 수익에 미치는 영향을 측정하는 지속적인 과제를 강조했다.
앞으로 가장 선진적인 조직들은 이미 정해진 경계 내에서 학습하고, 기억하며, 독립적으로 행동할 수 있는 에이전틱 AI 시스템을 실험하고 있어 기업 AI의 다음 단계가 어떻게 전개될지에 대한 전망을 제공하고 있다.
이번 연구 결과는 기업들이 생성형 AI 도입 시 신중한 접근이 필요하며, 특히 전문업체와의 파트너십과 백오피스 자동화에 집중하는 전략이 더 효과적일 수 있음을 시사한다.
맥킨지의 2025년 AI 현황 보고서도 유사한 결론에 도달했다. 응답자의 80% 이상이 생성형 AI 사용으로부터 기업 수준의 EBIT에 실질적인 영향을 보지 못했다고 답했으며, 기업 임원 중 단 1%만이 자사의 생성형 AI 도입을 '성숙'하다고 평가했다.
또한 S&P 글로벌 데이터에 따르면 AI 프로젝트를 포기하는 기업 비율이 2024년 17%에서 2025년 42%로 급증했으며, 주요 이유로 비용과 불분명한 가치를 꼽았다. 이는 MIT 연구가 지적한 95% 실패율과 맥을 같이 하는 결과다.
