主要なポイント
NvidiaはGTCカンファレンスで、複雑で長文脈のAIエージェントのパフォーマンスを加速するために設計された、AIストレージの新標準であるBlueField-4 STXリファレンスアーキテクチャを発表しました。このアーキテクチャは、速度と効率性の大幅な向上を約束し、AI推論を遅らせ、GPU利用率を低下させるデータアクセスボトルネックの解消を目指します。
- 5倍高速なパフォーマンス: 新しいSTXアーキテクチャは、従来のストレージソリューションと比較して、AIモデルのトークンスループットを最大5倍向上させます。
- 4倍高い効率性: 従来のCPUベースのストレージアーキテクチャと比較して、最大4倍のエネルギー効率を提供し、データ取り込み速度を2倍にします。
- 広範な業界採用: Oracle Cloudのような主要なクラウドプロバイダーやMistral AIのようなAIラボが早期採用しており、Dell、HPE、NetAppを含むストレージ大手は互換性のあるインフラを構築しています。
