코인베이스 CEO, 토큰 제한 없이 AI 비용 절감하는 5가지 방법 제시

코인베이스는 사용량 제한이 아닌 더 스마트한 인프라가 토큰 소비가 사상 최고치를 기록하는 가운데 AI 비용 상승을 막을 수 있다고 믿고 있다.

코인베이스 최고경영자(CEO) 브라이언 암스트롱은 금요일 X(트위터) 게시글을 통해 암호화폐 거래소가 엔지니어들의 토큰 사용량을 제한하지 않으면서 증가하는 인공지능 비용을 관리하기 위해 사용하고 있는 5가지 전략을 제시했다.

"궁극적으로, 인간이 모델을 선택해서는 안 됩니다. AI가 이 작업을 자동화할 수 있습니다"라고 암스트롱은 말하며, 작업 난이도에 따라 가장 적합한 대규모 언어 모델(LLM)로 프롬프트를 라우팅하는 회사의 접근 방식을 설명했다.

첫 번째 전략은 더 저렴한 기본 LLM을 선택하는 것이다. 코인베이스는 Z.ai가 개발한 GLM 5.2와 Moonshot AI의 Kimi 2.7과 같은 중국산 오픈 가중치 모델을 LLM 게이트웨이를 통해 기본값으로 실험 중이라고 암스트롱은 전했다. 이들 모델은 Anthropic 및 OpenAI와 같은 최첨단 미국 AI 연구소의 모델보다 비용이 훨씬 저렴하다.

두 번째 접근 방식은 암스트롱이 지난 6월에 이미 논의한 것으로, 작업 복잡도에 맞는 모델로 프롬프트를 라우팅하는 것이다. 계획 수립에는 최첨단 모델을 사용하지만, 과잉 투자가 될 수 있는 실행 단계에서는 저렴한 모델을 사용한다. 나머지 전략으로는 추론 비용 절감을 위한 캐싱 개선, 작업 간 전환 시 새 세션을 시작해 컨텍스트를 간결하게 유지, 그리고 회사 전체의 AI 지출에 대한 가시성 향상 등이 포함된다.

암스트롱의 게시글에 첨부된 그래프는 코인베이스의 토큰 사용량이 최근 회사 역사상 최고 수준 중 하나에 도달한 반면, AI 지출은 정점 대비 거의 절반 수준으로 떨어졌음을 보여준다. "목표는 사용을 억누르는 것이 아닙니다. 기하급수적인 성장을 지속 가능하게 만드는 인프라를 구축하는 것입니다"라고 그는 썼다.

AI 비용 억제 노력은 코인베이스가 직원의 14%를 해고한 지 2개월도 채 되지 않은 시점에 나왔다. 부분적으로는 AI가 업무 방식을 변화시켰기 때문이다. 지난 5월 게시글에서 암스트롱은 회사 엔지니어들이 AI를 사용해 "예전에는 팀이 몇 주 걸리던 일을 며칠 만에 끝낼 수 있게 되었다"고 말했다.

코인베이스의 접근 방식은 통제할 수 없는 토큰 소비를 억제하기 위해 직원에게 사용량 상한선을 부과하는 광범위한 업계 추세와 대조된다. 보도에 따르면 우버와 아마존을 포함한 기업들은 예산이 예상보다 빠르게 소진된 후 AI 투자를 재평가했다. 2026년 초 발표된 Flexera 연구에 따르면 약 5곳 중 3곳의 조직이 AI 초과 지출이 전년 대비 증가했다고 인정한 것으로 나타났다.

암스트롱은 모든 코인베이스 엔지니어가 원하는 만큼 많은 토큰을 사용할 수 있지만, 자신의 사용량을 확인할 수 있다고 말했다. 그는 AI에 더 많은 비용을 지출하는 직원이 "더 큰 영향력"을 낼 것으로 회사는 기대한다고 덧붙였다.

본 기사는 정보 제공 목적으로만 작성되었으며, 투자 조언을 구성하지 않습니다.