기업용 생성형 AI 프로젝트의 약 95%가 측정 가능한 손익 성과를 내지 못했다는 조사 결과가 나왔다. MIT NANDA 보고서의 수치다. 김지현 JiHyun & Company 대표는 Scale-Up Note 칼럼에서 이 보고서와 맥킨지앤드컴퍼니 조사를 근거로, AI 도입의 성패가 기술 활용량보다 해결할 비즈니스 문제를 얼마나 명확히 정의했는지에 달렸다고 주장했다.
인용된 두 보고서와 핵심 수치
칼럼이 인용한 보고서는 두 건이다. MIT NANDA는 '2025 기업 AI 현황: 생성형 AI 격차'(The GenAI Divide: State of AI in Business 2025)를 냈고, 맥킨지앤드컴퍼니는 '2026 AI 현황 글로벌 조사'(The State of AI: Global Survey 2026)를 냈다. 주요 수치는 아래 표와 같다.
| 출처 | 수치 | 내용 |
|---|---|---|
| MIT NANDA | 약 95% | 조사 대상 기업용 생성형 AI 프로젝트 중 측정 가능한 손익 성과를 만들지 못한 비율 |
| 맥킨지 | 80% | AI로 개인 생산성이 향상됐다고 답한 응답자 비율 |
| 맥킨지 | 37% | AI가 기업의 영업이익(EBIT)에 기여했다고 응답한 비율 |
| MIT NANDA | 약 67% | 전문기업 상용 솔루션 구매 또는 외부 파트너 협력 프로젝트의 성공률 |
| MIT NANDA | 약 33% | 기업이 자체 개발한 AI 프로젝트의 성공률 |
| 맥킨지 | 기업 다섯 곳 중 한 곳가량 | AI 관련 운영비 증가로 사용에 제약을 받고 있다고 답한 기업 비율 |
개인 생산성과 영업이익 사이의 간극
맥킨지 조사에서 AI로 개인 생산성이 향상됐다고 답한 응답자는 80%였다. 반면 AI가 기업 영업이익에 기여했다고 응답한 비율은 37%에 그쳤다. 개인이 체감하는 업무 효율과 기업이 확인하는 실질적인 성과 사이에 간극이 있다는 의미다.
MIT NANDA 보고서는 예산 배분과 효과가 나타난 영역이 다르다고 전한다. 예산은 영업·마케팅에 집중됐으나, 비용 절감은 행정·재무·조달·문서 처리 등 지원 부서 자동화에서 더 나타났다.
외부 솔루션 약 67%, 자체 개발 약 33%
성공률은 접근 방식에 따라 갈렸다. 전문기업의 상용 솔루션을 구매하거나 외부 파트너와 협력한 프로젝트의 성공률은 약 67%였고, 기업이 자체 개발한 프로젝트는 약 33%였다. 외부 솔루션·파트너 협력의 성공률이 자체 개발보다 높았다는 의미다. 칼럼은 성과를 좌우하는 것이 모델 보유 여부보다 업무 흐름에 적용하고 수정하는 속도라고 정리한다.
운영비 부담과 현장 사례
AI 운영비, 곧 토큰 사용료 증가가 사용을 제약하는 요인으로도 제시됐다. 맥킨지 조사에서는 기업 다섯 곳 중 한 곳가량이 AI 관련 운영비 증가로 사용에 제약을 받고 있다고 답했다. 칼럼은 현장에서 AI 도입 뒤 토큰 사용료가 예상보다 빠르게 늘어 연간 예산을 몇 달 만에 소진하거나 구성원의 사용 범위를 제한하는 사례가 나오고 있다고 쓴다.
김 대표가 만난 한 기업 대표의 사례도 소개됐다. 이 회사는 AI 도입 후 반복 업무, 인력 운용, 의사결정 속도에서 효과를 봤고 신규 채용이 줄었다. 그런데도 회사는 더 바빠졌다. 칼럼에 따르면 AI가 하루 24시간 검토할 자료와 판단할 사안을 계속 내놓았고, 이전에는 손대지 못한 업무까지 빠르게 처리할 수 있게 된 것이 원인이다.
워크숍에서 갈린 두 부류
김 대표는 AI 의사결정 모델을 활용한 사업 성과 측정 워크숍 논의에서 기업 반응이 두 부류로 갈렸다고 전한다. 한쪽은 빠르게 도입해 성과를 측정하고 수정했다. 다른 쪽은 시연과 검토를 거친 뒤 결정을 미뤘다.
김 대표는 두 부류를 가른 것이 AI 지식의 차이보다 풀어야 할 문제를 얼마나 분명히 인식하느냐의 차이라고 평가했다. 그는 AI가 유행하기 때문에 도입하면 기대하는 성과도 모호해진다고 썼다. 해결하려는 문제가 분명하면 필요한 기술, 적용 범위, 투자 규모, 성과 지표를 구체적으로 설계할 수 있다는 논리다.
필자 주장과 전망
김 대표는 AI 도입이 소프트웨어를 추가하는 일이 아니라 경영의 선택이라고 주장한다. 해결할 문제, 절감 목표, 측정 기준을 먼저 정해야 한다는 것이다. 그는 앞으로 2~3년 동안 기업 간 AI 활용 격차가 더 커질 가능성이 높다고 전망했다.
김 대표는 JiHyun & Company를 이끌며 성장 단계 기업과 투자사 포트폴리오의 커머셜 전략을 자문한다. 글로벌 제약사와 다국적 기업에서 30년 이상 마케팅·영업·전략 리더십을 맡았고, 전 근무처로는 Abbott, AstraZeneca, Gilead, Allergan이 있다.