Key Takeaways:
마이크로소프트와 아마존 같은 클라우드 거대 기업들이 자사의 AI 부문과 최상위 고객을 위해 엔비디아(Nvidia Corp.)의 탐나는 GPU를 우선적으로 배정함에 따라 실리콘밸리에 구조적인 공급 위기가 몰아치고 있으며, 벤처 캐피털의 지원을 받는 스타트업들은 치솟는 가격과 수년간의 대기 시간에 직면해 있습니다. 필수 컴퓨팅 하드웨어에 대한 접근이 스타트업의 기술력이 아닌 대차대조표의 함수가 됨에 따라, 이러한 압박은 혁신을 정체시키고 AI 권력을 고착화할 위협이 되고 있습니다.
General Catalyst의 매니징 파트너인 헤만트 타네자(Hemant Taneja)는 자사 포트폴리오 창업자들을 대상으로 한 설문 조사에서 "많은 이들로부터 컴퓨팅, 특히 GPU 액세스가 올해 가장 큰 병목 현상 중 하나라는 이야기를 들었다"고 썼습니다. 이러한 정서는 필수 칩의 임대 가격이 불과 6개월 만에 30% 이상 급등하고, 장기 계약이 용량을 확보할 수 있는 유일한 방법이 된 상황을 목격한 스타트업 창업자들에 의해 반복되었습니다.
공급 부족은 소규모 업체들에게 높은 비용과 운영상의 불확실성으로 직결되었습니다. Andreessen Horowitz 등의 투자자로부터 8,300만 달러를 유치한 이미지 생성 스타트업 Krea는 엔비디아 블랙웰(Blackwell) GPU의 계약 가격이 6개월 만에 32% 상승하여 칩당 시간당 3.70달러에 달하는 것을 목격했습니다. 한편, 마이크로소프트의 애저(Azure) 클라우드 부문은 상위 1,000개 고객에게 우선권을 부여하는 공식 티어 시스템을 도입했으며, '티어 3'에 속한 소규모 기업들은 2026년 말까지 대기해야 하거나 유휴 서버에 대한 액세스가 취소되는 정책에 직면해 있습니다.
병목 현상은 가격뿐만 아니라 가용성의 문제입니다. 하루 임대 비용이 7만 달러 이상인 약 1,000개의 GPU 클러스터를 찾던 한 창업자는 엔비디아 영업 직원으로부터 주요 클라우드 제공업체에서 그러한 클러스터를 찾는 것이 매우 어렵다는 말을 들었습니다. 이러한 희소성으로 인해 AI 에이전트 스타트업 Collide와 같은 일부 기업은 약 50만 달러를 들여 자체 GPU를 구매하고 운영하는 자본 집약적인 피벗을 고려하고 있습니다. 이는 높은 초기 비용을 지불하더라도 공급의 확실성을 확보하려는 움직임입니다.
마이크로소프트의 내부 할당 전략은 명확한 서열을 보여줍니다. 해당 사안에 정통한 한 직원은 애저가 고객을 세 개의 티어로 나눈다고 밝혔습니다. 티어 1은 우선 액세스 권한을 가진 약 1,000개의 최고 지출 고객으로 구성됩니다. 엔비디아의 최신 블랙웰 칩을 확보하기 위해 고객들은 이제 최소 1,000개의 칩을 최소 1년 동안 사용하는 계약을 체결해야 하며, 이 계약의 가치는 수천만 달러에 달합니다.
이러한 역학 관계는 GPU 임대 마진이 개선되고 있는 클라우드 제공업체들에게 유리하게 작용합니다. 그러나 이는 더 넓은 AI 생태계에 도전적인 환경을 조성합니다. 상황은 2023년의 부족 사태를 연상시키지만, 이제는 AI 코딩 어시스턴트에 대한 폭발적인 수요와 저렴했던 기존 클라우드 계약의 만료로 인해 더욱 심화되었습니다. 과거에 스타트업을 지원하기 위해 자체 GPU 풀을 구축했던 Andreessen Horowitz와 Index Ventures 같은 벤처 기업들은 역사가 반복되는 것을 보고 있지만, 이번에는 그 대가가 더 큽니다.
클라우드 기반 GPU를 향한 치열한 경쟁은 자금력이 풍부한 스타트업들이 전략을 재평가하게 만들고 있습니다. 1,400만 달러의 시드 라운드를 유치한 AI 에이전트 스타트업 Collide의 설립자 콜린 맥렐런드(Collin McLelland)는 임대 시장의 불확실성을 피하기 위해 GPU 구매를 고려하고 있습니다. 맥렐런드는 "우리에게 가장 큰 리스크는 필요할 때 컴퓨팅 자원을 확보하지 못하는 것"이라고 말했습니다. 초기 비용은 상당하지만, 그는 이를 클라우드 제공업체의 할당 정책으로부터 보호받을 수 있는 장기적인 투자로 보고 있습니다.
이러한 추세가 가속화된다면 지난 10년 동안 기술 인프라를 지배해 온 클라우드 중심 모델에서 부분적인 이탈 신호가 될 수 있습니다. 비록 일부 스타트업에만 가능한 일이지만, 자체 관리 하드웨어로의 이동은 현재 공급 제약의 심각성을 강조합니다. 클라우드 제공업체들에게 고가의 GPU 임대를 통한 단기적인 이익 증대는 가장 혁신적인 고객들을 독립으로 내모는 장기적인 비용을 초래할 수 있습니다.
이 기사는 정보 제공 목적으로만 작성되었으며 투자 조언을 구성하지 않습니다.
