추론 비용 84억 달러로 4배 급증, 수익 목표 이탈
선도적인 인공지능 기업들의 수익성 모델은 서비스 운영 비용이 급격히 증가함에 따라 심각한 압박을 받고 있습니다. OpenAI와 Anthropic 모두 클라우드 서버를 사용하여 사용자 응답을 생성하는 비용인 추론 비용이 예상보다 높아 내부 총 마진 목표를 달성하지 못했습니다. 작년에 OpenAI의 총 마진은 40%에서 33%로 하락했으며, 이는 예측치인 46%보다 훨씬 낮은 수치입니다. Anthropic 또한 2025년 예상 총 마진 40%가 초기 목표보다 10%포인트 낮은 수준에 머물러 있어 어려움에 직면해 있습니다.
비용 초과는 뚜렷합니다. OpenAI의 추론 비용은 작년에 84억 달러로 4배 급증했으며, 이는 예상치인 66억 달러를 초과합니다. 회사는 이러한 증가를 예상보다 높은 서비스 수요 때문으로 보고 있으며, 이는 더 비싼 온디맨드 서버 용량을 구매하게 만들었습니다. 마찬가지로, Anthropic의 추론 비용은 2025년에 27억 달러로 3배 이상 증가할 것으로 예상됩니다. 이러한 비용 인플레이션은 전반적인 클라우드 컴퓨팅 가격이 하락하고 두 회사 모두 모델 효율성을 개선하고 있다고 주장하는 상황에서 발생하고 있어 특히 주목할 만합니다.
무료 사용자와 Sora 비디오 도구로 인한 재정적 부담
OpenAI의 재정적 압박은 방대한 무료 사용자 기반으로 인해 더욱 심화되고 있습니다. 주간 활성 사용자 약 9억 1천만 명 중 약 5%만이 유료 고객입니다. 작년에 이 무료 사용자들은 39억 달러의 추론 비용을 발생시켰으며, 이는 회사 총 비용의 거의 절반에 해당합니다. 이러한 역학은 유료 구독자와 기업 고객이 플랫폼 사용량의 대다수를 보조하도록 만듭니다.
제품 구성 또한 주요 비용 동인입니다. OpenAI의 비디오 생성 모델인 Sora와 같은 계산 집약적인 도구는 단순한 텍스트 쿼리보다 훨씬 더 많은 서버 리소스를 소비합니다. 회사는 또한 인기 있는 GPT-4o 모델의 양식화된 이미지를 생성하는 기능과 같은 강력한 기능에 무제한 액세스를 제공함으로써 상당한 비용을 흡수했으며, 이는 일시적으로 컴퓨팅 자원 소비를 대폭 증가시켰습니다.
유료 사용자 수익성 70%로 개선
전반적인 마진 압박에도 불구하고, OpenAI는 유료 고객 부문에서 상당한 효율성 향상을 보여주었습니다. 작년 10월, 모델 운영 비용을 공제한 유료 사용자 수익 마진은 약 70%로 개선되었습니다. 이는 전년 말의 52%와 2024년 1월의 35%에 비해 상당한 증가를 나타내며, 수익화가 확대될 경우 핵심 비즈니스 모델이 실행 가능하다는 것을 시사합니다.
이러한 불균형을 해소하기 위해 OpenAI는 광고 및 확장된 구독 계층을 포함한 새로운 수익원을 추구하고 있습니다. 1월에 회사는 월 5~8달러 상당의 광고 지원 ChatGPT 구독을 출시했습니다. 앞으로 OpenAI는 2030년까지 67%의 총 마진에 도달할 것으로 예상하며, 이때 8500억 달러의 추론 비용 중 94%가 유료 고객 서비스에 전념할 것으로 보고 있습니다. 단기적인 통제 불능 비용을 관리하면서 이러한 장기 목표를 달성하는 것이 AI 리더에게 남은 핵심 과제입니다.