重點摘要
英偉達在其GTC大會上公布了BlueField-4 STX參考架構,這是一項旨在加速複雜、長上下文AI代理性能的AI儲存新標準。該架構承諾在速度和效率方面實現顯著提升,旨在消除減緩AI推論速度並降低GPU利用率的數據存取瓶頸。
- 性能提升5倍:與傳統儲存解決方案相比,新的STX架構可為AI模型提供高達5倍的令牌吞吐量。
- 效率提高4倍:與傳統基於CPU的儲存架構相比,它可提供高達4倍的能源效率,同時數據攝取速度翻倍。
- 產業廣泛採用:甲骨文雲等主要雲服務提供商和Mistral AI等AI實驗室已率先採用,而戴爾、惠普企業和NetApp等儲存巨頭正在建構相容的基礎設施。
