Coinbase, Çin açık kaynak modelleriyle AI harcamalarını neredeyse %50 oranında azalttı

Coinbase Üst Yöneticisi (CEO) Brian Armstrong, şirketin dahili bir LLM ağ geçidi aracılığıyla Çin açık kaynak modelleri GLM 5.2 ve Kimi 2.7'yi varsayılan seçenekler olarak belirleyerek AI harcamalarını neredeyse %50 oranında azalttığını, bu sırada token kullanımının üstel olarak artmaya devam ettiğini söyledi.

Armstrong, Cuma günü X üzerinden yaptığı bir paylaşımda, "Mühendislerin %91'i hiçbir zaman kullanım limitine ulaşmadı, bu yüzden kotaları sıkılaştırmadık — daha ucuz varsayılan modellere geçiş yaptık," dedi.

Kripto para borsası üç maliyet düşürme önlemi uygulamaya koydu: istemleri ön işlemeden geçiren ve önbellek isabet oranları ile fiyatlandırmaya dayalı olarak görevleri en uygun maliyetli modele atayan akıllı bir yönlendirme sistemi; LibreChat'in isabet oranını %5'ten %60'a çıkaran agresif önbellekleme; ve mühendislerin görev değiştirirken yeni oturumlar başlatmasını gerektiren bağlam daraltma. Karmaşık planlama ve muhakeme için mühendisler hâlâ öncü modelleri kullanabilirken, kod incelemeleri, çıktıların birbirini çapraz kontrol ettiği çok modelli paralel bir strateji kullanıyor.

Bu değişim, Çin açık kaynak yapay zekasının Batılı kurumsal üretim ortamlarındaki ticari uygulanabilirliğini doğrulayarak, OpenAI ve Anthropic gibi ABD'li sağlayıcıların fiyatlama gücüne doğrudan meydan okuyor. Coinbase için bu maliyet düşüşü, şirketin AI kullanımını kısıtlamak yerine genişlettiği bir dönemde marjları ve kârlılık metriklerini iyileştirebilir.

Akıllı Yönlendirme, Manuel Model Seçiminin Yerini Alıyor

Armstrong, şirketin özel zamanlama çerçevesinin her istemi ön işlemeden geçirdiğini ve ardından önbellek isabet olasılığı ve token başına fiyatlandırmaya göre bunu en uygun modele otomatik olarak yönlendirdiğini söyledi. Amacın, model seçimini mühendislere bırakmak yerine AI'nın halletmesini sağlamak olduğunu belirtti. Ona göre, yürütme düzeyindeki görevler en pahalı öncü modelleri gerektirmez — bunu yalnızca planlama ve muhakeme görevleri gerektirir.

Önbellekleme ve Bağlam Disiplini Tasarrufların Çoğunu Sağlıyor

Coinbase artık tüm AI taleplerinin önbellek bilincinde olmasını, yani sistemin yeni bir yanıt oluşturmadan önce önceki bir yanıtın yeniden kullanılıp kullanılamayacağını kontrol etmesini zorunlu kılıyor. LibreChat uygulaması etkiyi gözler önüne seriyor: Optimizasyonun ardından önbellek isabet oranları %5'ten %60'a fırladı. Armstrong ayrıca mühendisleri bağlam pencerelerini dar tutmaya — yeni oturumlar başlatmaya, dosya kapsamını daraltmaya ve kullanılmayan araçların bağlantısını kesmeye — teşvik ederek boşa harcanan token tüketimini azalttı.

Şirket mutlak harcama rakamlarını açıklamadı. Ancak token kullanımı üstel bir oranda büyürken neredeyse %50'lik bir azalma elde edilmesi, Coinbase'in tüketimi maliyetten kısmen ayırdığını gösteriyor.

Bunun AI Piyasası İçin Anlamı

Pekin merkezli Zhipu AI tarafından geliştirilen GLM 5.2 ve Pekin merkezli Moonshot AI tarafından geliştirilen Kimi 2.7'nin varsayılan kurumsal modeller olarak benimsenmesi, Çin açık kaynak yapay zekası için Batılı kurumsal altyapıda bir dönüm noktası niteliği taşıyor. Premium fiyatlandırmaya sahip olan OpenAI'in GPT-4o'su ve Anthropic'in Claude 4'ü, artık işletmelerin rutin görevlerde kaliteden ödün vermeden dağıtabileceği güvenilir bir düşük maliyetli alternatifle karşı karşıya.

Yatırımcılar için çıkarım açıktır: Diğer büyük işletmeler de Coinbase'in oyun kitabını takip ederse, premium ABD AI modelleri için toplam pazarlanabilir pazar yalnızca yüksek karmaşıklıktaki görevlere daralabilir ve bu da kapsamlı kurumsal benimsemeye güvenen sağlayıcılar için gelir büyüme beklentilerini sıkıştırabilir. Nasdaq'ta COIN koduyla işlem gören Coinbase, tam dolar tasarrufunu açıklamamış olsa da, yapısal maliyet iyileştirmesi, AI kullanımı ölçeklendikçe marj genişlemesini desteklemektedir.

Bu makale yalnızca bilgilendirme amaçlıdır ve yatırım tavsiyesi niteliği taşımaz.