Önemli Çıkarımlar:
Google ve Meta'dan üç kıdemli isim, en güçlü çiplerin bile boşta kalmasına neden olan yapay zeka bilişimindeki kritik bir darboğazı çözmek için 100 milyon dolarlık finansman sağladı. Majestic Labs AI adlı girişim, veri merkezlerini zorlayan ve Nvidia gibi çip üreticilerinin yüksek performanslı donanımlarında milyarlarca dolarlık israfa yol açan "bellek duvarını" (memory wall) yıkmak için tasarlanmış yeni bir sunucu mimarisi geliştiriyor.
Şirketin misyonu, modern yapay zeka modellerinin yoğun veri iştahına ayak uydurmak için sunucular içindeki veri akışını yeniden tasarlamaktır. Kurucular, Alphabet’in Google ve Meta Platforms birimlerinde özel silikon geliştirirken ilk elden tanık oldukları bir sorunu özetleyerek, "Devasa yapay zeka modelleri sunucuları bunaltıyor ve yüksek performanslı çipleri boşta bırakıyor" dediler.
Majestic Labs AI; daha önce Google'ın veri merkezi çipleri üzerinde çalışan ve daha sonra Meta Reality Labs'de özel silikon ekibini kuran Ofer Shacham, Masumi Reynders ve Sha Rabii tarafından kuruldu. Kasım ayında duyurulan 100 milyon dolarlık finansman turu; Bow Wave Capital, Lux Capital ve Grove gibi yatırımcıların desteğini içeriyor.
Bu yatırım, tüm yapay zeka endüstrisi için kritik bir zorluğun altını çiziyor. Yapay zeka modelleri boyut ve karmaşıklık açısından büyüdükçe, bunları çalıştırmanın maliyeti sadece güç tüketiminde değil, aynı zamanda boşa giden potansiyelde de artıyor. Bellek darboğazını çözmek, yapay zeka bilişim verimliliğini önemli ölçüde artırabilir ve potansiyel olarak hem çip tasarımcıları hem de bulut hizmet sağlayıcıları için rekabet ortamını değiştirebilir.
"Bellek duvarı" bilişimde süregelen bir sorundur ancak günümüz yapay zekasının ölçeğiyle daha da kötüleşmiştir. Sorun Nvidia'nın H100 GPU'su gibi çiplerin işlem gücü değil, verilerin onlara beslenme hızıdır. Bu durum, işlemcinin veri beklediği, döngüleri ve enerjiyi boşa harcadığı bir trafik sıkışıklığı yaratır. Bu sorun, fizikçiler ve matematikçiler tarafından bir sisteme daha fazla değişken eklendikçe hesaplama maliyetlerinin nasıl katlanarak artabileceğini tanımlamak için kullanılan bir terim olan "boyutluluk laneti"nin (curse of dimensionality) pratik bir tezahürüdür.
Yapay zeka altyapısına milyarlarca dolar harcayan şirketler için bu verimsizlik, doğrudan kâr hanesine vurulan bir darbedir. Güçlü ancak yetersiz kullanılan işlemcilerle dolu bir sunucu, azalan getirili önemli bir sermaye harcamasını temsil eder. Flatiron Enstitüsü'nden yapılan araştırmaya göre, bu boyutluluk lanetini aşmak, özel donanımlar da dahil olmak üzere veri odaklı yeni hesaplama yöntemlerinin ana itici güçlerinden biridir.
Tensor İşleme Birimleri (TPU) ile Google ve Trainium çipleri ile Amazon gibi rakipler daha iyi işlemciler tasarlamaya odaklanırken, Majestic Labs sorunu sunucu tasarımı düzeyinde ele alıyor. Şirketin yaklaşımı, tam olarak detaylandırılmasa da, çipler arasında var olan darboğazları ortadan kaldırmayı amaçlayarak bir sunucu rafı içinde bellek ve işlemenin nasıl entegre edildiğine dair bütünsel bir yeniden tasarımı işaret ediyor.
Bu strateji, girişimi sadece Nvidia ve AMD gibi yerleşik çip üreticileriyle değil, aynı zamanda kurucularının eski işverenleri olan Google ve Meta'nın şirket içi donanım çalışmalarıyla da karşı karşıya getiriyor. Bu teknoloji devleri, yapay zeka iş yüklerini optimize etmek ve üçüncü taraf tedarikçilere olan bağımlılıklarını azaltmak için kendi özel silikonlarını oluşturmaya büyük yatırımlar yaptılar. Majestic Labs'in başarısı, sadece daha verimli değil, aynı zamanda endüstri genelinde kullanılan çeşitli donanım ve yazılımlarla geniş ölçüde uyumlu bir çözüm sunma yeteneğine bağlı olacaktır.
Bu makale yalnızca bilgilendirme amaçlıdır ve yatırım tavsiyesi teşkil etmez.
