팔란티어 CEO "AI 모델, 기업 가치를 갈취한다"... 라우팅으로 비용 97% 절감

기업들이 가장 강력한 AI 모델을 기본으로 사용하는 방식에서 비용에 따라 작업을 라우팅하는 방식으로 전환하고 있다. 팔란티어는 이러한 추세를 통해 추론 비용을 최대 97%까지 절감할 수 있다고 밝혔다.

팔란티어 테크놀로지스(Palantir Technologies)의 알렉스 카프(Alex Karp) 최고경영자(CEO)는 기업들이 최첨단 AI 모델이 자사의 독점적 비즈니스 가치를 가로채는 것에 대해 "격노(livid)하고 있다"고 말했다. 팔란티어의 새로운 라우팅 시스템이 일부 배포 환경에서 추론 비용을 최대 97%까지 절감한 가운데 나온 발언이다.

카프 CEO는 24일(현지시간) CNBC 인터뷰에서 "기업들은 아무런 가치도 창출하지 않는 토큰에 비용을 지불하면서 동시에 자사의 지적 재산권과 경쟁 우위를 제3자에게 넘겨주고 있다"고 지적했다. 그는 이러한 역학 관계를 AI를 활용해 운영 수익을 창출하는 기업들에 부과되는 "부유세(wealth tax)"라고 표현했다.

팔란티어가 공개한 Evolve AI 라우팅 시스템은 가장 강력한 모델이 아닌 가장 비용 효율적인 모델에 작업을 자동으로 할당하는 방식으로, 특정 고객 배포 환경에서 추론 비용을 최대 97%까지 줄였다. 이 시스템은 프롬프트를 최적화하고 중복 호출을 방지하는 기능도 갖췄다. 별도로, 라우팅 플랫폼 오픈라우터(OpenRouter)는 지난 4월 1억 2,000만 달러(약 1,670억 원)를 조달하며 이 분야에 대한 투자자들의 관심을 입증했다.

모델 성능 경쟁에서 비용 최적화로의 전환은 엔터프라이즈 AI 분야의 구조적 변화를 의미한다. 효율적인 라우팅을 가능하게 하는 팔란티어, 데이터브릭스(Databricks), 오픈라우터와 같은 기업들은 기업 AI 예산의 증가하는 지분을 차지할 수 있는 반면, 고비용 최첨단 모델 제공업체들은 가격 정당화에 대한 압박을 받게 된다.

비용 위기가 라우팅 도입을 촉진하다

기업의 AI 지출은 많은 기업이 예상했던 것보다 빠르게 증가하고 있다. 알리 고드시(Ali Ghodsi) 데이터브릭스 CEO는 자사의 유니티 AI 게이트웨이(Unity AI Gateway)가 내부적으로 널리 사용되며 주목받은 이유는 조직들이 "AI 예산을 너무 빠르게 소진하고 있기 때문"이라고 말했다. 이 게이트웨이는 기업들이 비용 및 성능 임계값에 따라 오픈AI(OpenAI), 구글(Google), 앤스로픽(Anthropic)의 모델 간에 쿼리를 라우팅할 수 있게 해준다.

건설 회사 맥카시 빌딩(McCarthy Building)은 모델 일정 최적화를 도입한 후 연간 기준 AI 토큰 사용량이 약 60% 감소했으며, 출력 품질에는 큰 변화가 없었다고 보고했다. 팔로알토 네트웍스(Palo Alto Networks)도 AI 관련 비용을 줄이기 위해 모델 전환 전략을 채택한 것으로 알려졌다.

일본 AI 연구소 사카나 AI(Sakana AI)는 다중 모델 라우팅 시스템을 시연했는데, 이 시스템은 일종의 전문가 분업 형태를 보여준다. 수학 문제는 오픈AI 모델로 우선 라우팅되는 반면, 과학적 쿼리는 구글 제미나이(Google Gemini)로 더 자주 전달된다. 이 접근 방식은 단일 모델이 모든 작업에 최적화될 수 없다는 업계의 광범위한 인식을 반영한다.

오픈라우터의 1억 2,000만 달러 라우팅 인프라 베팅

라우팅 카테고리는 지난 4월 오픈라우터가 1억 2,000만 달러 규모의 투자 유치를 마무리하면서迄今最大의 단일 투자를 기록했다. 이 플랫폼의 '오토-라우터(auto-router)'는 사용자가 0에서 10까지의 척도로 비용-품질 선호도를 설정할 수 있게 해주며, 시스템이 이에 따라 동적으로 모델을 선택한다.

플랫폼 데이터에 따르면 약 3분의 1의 요청이 구글의 저비용 모델로 라우팅되는 반면, 오픈AI의 프리미엄 상품으로 흘러가는 요청은 약 10%에 불과하다. 이는 '최고 성능 모델 우선' 방식으로는 불가능한 비용 계층 분포다. 오픈라우터는 낫 다이아몬드(Not Diamond)를 포함한 제공업체의 라우팅 기술을 통합하고 있으며, 지연 시간과 가격을 최적화하기 위해 클라우드 간 호출을 지원한다.

AI 코딩 스타트업 코그니션(Cognition)도 자체 라우팅 시스템을 구축해 단일 최고 성능 모델을 사용할 때보다 약 35% 낮은 비용으로 프로그래밍 벤치마크에서 최첨단에 준하는 성능을 달성했다.

팔란티어의 라우팅 테제에 대한 재무적 근거

팔란티어는 2026년 1분기 매출이 16억 3,000만 달러(약 2조 2,700억 원)로 전년 동기 대비 84.7% 증가했으며, 조정 주당순이익(EPS)은 0.33달러로 시장 컨센서스 0.28달러를 상회했다고 보고했다. 미국 내 상업 부문 매출은 5억 9,500만 달러(약 8,290억 원)로 133% 증가했으며, 최소 100만 달러(약 14억 원) 규모 이상의 계약을 206건 체결했고 총 계약 가치는 24억 1,000만 달러(약 3조 3,600억 원)에 달했다.

카프 CEO는 2년 내에 150억~180억 달러(약 20조 9,000억 ~ 25조 1,000억 원)의 잉여현금흐름(FCF)을 창출할 것이라고 전망했다. 그는 이 수치가 시장의 회의론에도 불구하고 모델-플러스-애플리케이션 레이어 접근 방식의 타당성을 입증한다고 밝혔다. 팔란티어의 Rule of 40 점수는 145%를 기록했으며, 카프 CEO는 이 수준이 엔비디아(Nvidia), 마이크론(Micron), SK하이닉스와 같은 AI 인프라 기업들만이 달성한 수준이라고 말했다.

그럼에도 불구하고, 팔란티어(PLTR)의 주가는 약 127달러로 연초 대비 34% 하락했으며, 선행 주가수익비율(PER)은 약 74배에 달한다. 이러한 밸류에이션 괴리는 팔란티어의 성장세가 프리미엄을 유지할 수 있을지에 대한 투자자들의 불확실성을 반영한다. 이는 기업 고객들이 카프 CEO가 예상하는 속도로 라우팅 및 배포 도구를 계속 채택할지 여부에 달려 있다.

팔란티어의 파트너이자 국가 주도 AI(sovereign AI) 경쟁에서 함께 하는 엔비디아는 2027 회계연도 1분기 매출이 816억 달러(약 113조 7,000억 원)로 전년 동기 대비 85% 증가했으며, 데이터센터 매출은 752억 5,000만 달러(약 104조 9,000억 원)로 92% 증가했다고 보고했다. 엔비디아는 2분기 매출 가이던스를 910억 달러(약 126조 8,000억 원)로 제시했다. 팔란티어-엔비디아 스택은 기업들이 제3자 API가 아닌 자체 인프라에서 모델을 실행할 수 있는 경로를 제공하며, 이는 카프가 제기한 데이터 통제 문제를 직접적으로 해결한다.

투자자들에게 핵심 질문은 라우팅 기술이 클라우드 컴퓨팅의 API 게이트웨이와 같은 표준 엔터프라이즈 AI 레이어가 될지, 아니면 틈새 최적화 도구로 남을지 여부다. 전자가 된다면 팔란티어와 데이터브릭스처럼 플랫폼에 라우팅을 내장한 기업들은 지속적인 수요 성장을 누릴 수 있다. 후자가 된다면 오픈라우터에 대한 1억 2,000만 달러의 베팅은 시기상조로 판명될 수 있다. 그 답은 2026년 하반기 상업 계약 가치, 계약 건수, 고객 도입률에 나타날 것이다.

본 기사는 정보 제공 목적으로만 작성되었으며 투자 조언을 구성하지 않습니다.