기업 AI 도입률 88% 돌파했지만, ROI 의문 여전

AI는 전 세계 조직의 88%에 침투했지만, 생산성과 이익에 대한 기술의 영향력은 여전히 측정이 어려운 상태로 남아 있다. 이는 기업들이 AI 배포에 더 많은 자금을 쏟아부으면서 그 격차가 더 커질 위험에 처해 있음을 의미한다.

OpenAI가 ChatGPT를 출시한 지 약 1,200일이 지났으며, 이 기술은 역사상 그 어떤 기업용 도구보다 빠르게 확산됐다. McKinsey의 연구에 따르면, 조직의 88%가 현재 적어도 하나의 비즈니스 기능에서 정기적으로 AI를 사용한다고 보고했으며, 이는 1년 전 78%에서 증가한 수치다. Lenovo의 CIO Playbook 2026에 따르면, 아시아 태평양 지역 920명의 경영진을 대상으로 한 설문조사에서 호주와 뉴질랜드 기업의 95%가 올해 AI 투자를 늘릴 계획이며, 지출된 1달러당 평균 2.85달러의 수익을 기대하는 것으로 나타났다.

그러나 도입과 측정 가능한 가치 사이의 격차는 크다. 801명의 경영진을 대상으로 한 Wharton 연구에 따르면, 75%가 AI 투자에서 긍정적인 수익을 보고했지만, EY 2025 C-suite GenAI Survey에서는 조직의 8%만이 AI 관련 비용을 완전히 측정하고 할당할 수 있다고 답했다. Lenovo의 데이터에 따르면, 모든 AI 개념 증명(proofs-of-concept) 중 약 절반만이 실제 운영에 도달하며, 이는 수십억 달러에 달하는 실험 지출이 운영 성과로 이어지지 않음을 의미한다.

"우리가 파일럿 모드에 갇혀 있다는 말은 시대에 뒤처진 잘못된 생각입니다."라고 기업 AI 도입을 연구하는 Wharton School의 경영학 교수 Ethan Mollick은 말했다. "저는 AI에서 실제 가치를 얻고 있는 기업들과 끊임없이 이야기하고 있습니다."

'들쭉날쭉한 개척지' 문제

연구자들은 AI의 불균등한 능력을 설명하기 위해 '들쭉날쭉한 개척지(jagged frontier)'라는 용어를 만들어냈다. 이 모델들은 코딩, 법률 문서 검토, 재무 분석과 같은 구조화된 작업에 탁월하지만, 판단력, 불문율, 그리고 훈련 데이터에 포함되지 않는 조직 지식을 요구하는 맥락적 작업에는 어려움을 겪는다.

이러한 한계는 현재 AI가 경제 전반에 걸쳐 할 수 있는 일을 제한한다. MIT 경제학자이자 노벨상 수상자인 Daron Acemoglu는 현재의 AI 도구가 극히 일부 직업에만 영향을 미칠 것이라고 믿는다고 말했다. "CEO, 관리자, 저널리스트, 교수, 건설 노동자 등 당신의 기술은 AI가 수행할 수 있는 범위를 넘어선다고 봅니다."라고 그는 말했다.

구조적 장애물은 모델의 한계를 넘어선다. 모든 기업의 시스템과 워크플로는 서로 다르기 때문에, AI를 유용하게 배포하는 데 필요한 데이터 아키텍처, 권한, 안전장치 및 인간의 감독은 처음부터 구축되어야 한다. 기업 AI 도입을 추적하는 독립 분석가 Benedict Evans는 들쭉날쭉한 개척지 때문에 기업이 이미 자원을 투입하기 전까지는 어떤 사용 사례가 효과적일지 예측하는 것이 거의 불가능하다고 말했다.

인적 요소가 성장 곡선을 늦춘다

기술적 장애물은 조직의 저항보다 극복하기 쉬울 수 있다. 경영진은 5년 단위의 계획 주기, 최근 구매한 시스템의 감가상각 일정, 그리고 수익을 요구하는 이사회와 직면한다. 자신이 자신을 대체할 대상을 훈련시키고 있다고 믿는 직원들은 협력할 유인이 거의 없다.

"팔리고 있는 것은 생산성과 효율성이라는 아이디어입니다."라고 AI 정책 연구 센터인 AI Now Institute의 부소장 Kate Brennan은 말했다. "실제 업무를 수행하는 사람들에게 이것이 무엇을 의미하는지는 논의의 일부가 되는 경우가 거의 없습니다."

대부분의 기업에서 본능은 프로세스 자체를 재설계하기보다는 AI를 사용하여 기존 프로세스의 일부를 자동화하는 것이다. 가벼운 접촉 사고 클레임을 처리하는 보험사는 AI가 고객 사진에서 손상을 평가하고 몇 초 만에 지급을 트리거하도록 하기보다는, 동일한 검토 단계를 유지하면서 AI를 사용하여 서류 작업을 가속화할 수 있다. 이러한 재구상은 기존의 위계질서와 관행을 위협한다.

역사적 선례는 깊은 변화에 시간이 걸린다는 것을 시사한다. 전기는 문명을 재편했지만 생산성 데이터에 의미 있게 나타나기까지 40년이 걸렸다. 인터넷은 경제의 기초를 재구성하는 데 10년에서 15년이 필요했다. Stanford Institute for Human-Centered Artificial Intelligence의 공동 소장 James Landay는 AI도 비슷한 궤적을 따를 것이라고 말했다. "제 생각은 향후 2~3년이 아니라 5년에서 10년 정도입니다."라고 그는 말했다.

투자자들에게 일정은 중요하다. AI 인프라를 판매하는 기업인 Nvidia, Microsoft, Amazon은 빠른 기업 배포에 대한 기대를 반영한 평가를 받아왔다. Nvidia는 선행 주당순이익의 약 35배에 거래되며, 수년간 지속적인 데이터센터 성장을 가격에 반영하고 있다. 기업 AI 도입이 Landay가 설명한 5~10년의 경로를 따른다면, 현재의 밸류에이션과 실제 매출 실현 사이의 격차는 좁혀지기 전에 더 벌어질 수 있다. 낙관론자들은 AI가 어디로 가고 있는지에 대해 방향성은 맞다. 회의론자들은 그것이 얼마나 오래 걸릴지에 대해 아마 옳을 것이다.

본 기사는 정보 제공 목적으로만 작성되었으며 투자 조언을 구성하지 않습니다.