Nvidia, 5 Kat Daha Hızlı Depolama Teknolojisiyle Yapay Zeka Engellerini Hedefliyor

Nvidia, STX Mimarisini Tanıttı, Yapay Zeka Verimini 5 Kat Artırdı

16 Mart'ta Nvidia, yapay zeka için depolama yığınını yeniden tasarlamayı amaçlayan yeni bir tasarım olan BlueField-4 STX referans mimarisini duyurdu. Modüler mimari, bulut ve yapay zeka sağlayıcılarının karmaşık yapay zeka ajanlarının gerektirdiği devasa bağlam belleğini işleyebilen hızlandırılmış depolama altyapısı dağıtmasına olanak tanır. Şirket, yeni sistemin geleneksel CPU tabanlı depolamaya göre 5 kata kadar daha fazla token verimi ve 4 kat daha fazla enerji verimliliği sunabileceğini belirterek, yapay zeka çıkarımını yavaşlatabilen ve pahalı GPU'ların kullanımını azaltabilen performans darboğazlarını doğrudan ele aldığını ifade etti.

Geleneksel veri merkezleri, büyük, tutarlı veri kümelerine gerçek zamanlı erişim gerektiren aracı yapay zeka için gereken yanıt verme yeteneği konusunda zorluk yaşamaktadır. STX mimarisi bu verileri yakın ve ölçeklenebilir bir şekilde erişilebilir tutarak, yapay zeka sistemlerinin daha yüksek hız ve yanıt verme yeteneğiyle çalışmasını sağlar.

Aracı yapay zeka, yazılımın yapabileceklerini yeniden tanımlıyor ve bunun arkasındaki bilgi işlem altyapısı da bu hıza ayak uydurmak için yeniden tasarlanmalı. NVIDIA STX, depolama yığınını yeniden tasarlayarak yapay zeka yerel altyapısı için modüler bir temel sağlıyor ve yapay zeka fabrikalarının en yüksek performansta çalışmasını sağlıyor.

— Jensen Huang, NVIDIA'nın kurucusu ve CEO'su.

Teknoloji Devlerinin Geniş Ekosistemi Yeni Standardı Benimsemek İçin Harekete Geçti

STX mimarisi, teknoloji endüstrisinin genelinden önemli bir destekle piyasaya sürüldü. CoreWeave, Crusoe, Oracle Cloud Infrastructure (OCI), Mistral AI ve Vultr dahil olmak üzere büyük yapay zeka laboratuvarları ve bulut hizmet sağlayıcıları, bağlam belleği depolama ihtiyaçları için platformu benimsemeyi taahhüt etti. Bu geniş ilk benimseme, yeni standardın kritik yapay zeka altyapısı sorunlarını çözme yeteneğine güçlü bir pazar güveni olduğunu gösteriyor.

Donanım tarafında ise, depolama sağlayıcıları ve üreticilerinden oluşan güçlü bir koalisyon, yeni referans tasarımlara dayalı sistemler inşa ediyor. Ortaklar arasında Dell Technologies, Hewlett Packard Enterprise, IBM, NetApp, Supermicro ve VAST Data gibi sektör liderleri bulunmaktadır. Nvidia, STX mimarisine dayalı platformların bu ortaklardan bu yılın ikinci yarısında temin edilebileceğini doğrulayarak, kurumsal benimseme için net bir zaman çizelgesi sağladı.

STX, Veri Merkezi Donanımı İçin Yeni Talep Yaratıyor

STX mimarisinin tanıtımı, veri merkezlerinde yeni bir donanım yükseltme döngüsünü tetiklemeye hazırlanıyor. Platformun yüksek yoğunluklu, hızlandırılmış depolamaya verdiği önem, yeni sunucu tasarımlarını ve bileşenlerini gerektiriyor. Bu eğilimi vurgulayacak şekilde, üretim ortağı Compal, BlueField-4 DPU'yu entegre eden ilgili NVIDIA HGX Rubin platformu üzerine inşa edilmiş yüksek yoğunluklu bir yapay zeka sunucusu olan SG231-2-L1'i zaten sergiledi. Bu, donanım üreticilerinin yeni nesil yapay zekanın artan güç ve yoğunluk gereksinimlerine hazır olduğunu gösteriyor.

Bu mimari değişim, bu performans seviyesini mümkün kılan temel bileşenlere olan talebi de artırıyor. Daha büyük, daha hızlı bağlam belleği ihtiyacının, yüksek hızlı NAND depolama talebini doğrudan artırması bekleniyor. Genel amaçlı depolamadan özel, yüksek performanslı yapay zeka belleğine geçiş, gelişen veri merkezi pazarına hizmet verecek konumdaki bileşen tedarikçileri için önemli bir fırsat yaratıyor.