Arrcus 攜手英偉達加速 AI 推理網路

Edgen Stock·Mar 16 2026, 14:54

分享至

分享至

複製連結

主要觀點

Arrcus 正在將其網路架構與 NVIDIA 的完整 AI 堆疊整合，以創建更有效率的人工智慧應用基礎設施。此次合作旨在解決市場日益增長的從集中式 AI 模型訓練向全球分布式推理的轉變，這需要一種新型的智慧低延遲網路。

戰略整合： Arrcus 宣布將其 Arrcus 推理網路架構 (AINF) 與 NVIDIA 的 AI 基礎設施進行整合，包括 BlueField-3 DPU 和 Spectrum-X 網路平台。
性能目標： 該組合解決方案旨在將端到端延遲降低 40%，將每次推理成本降低 30%，並將首次令牌時間縮短 60%。
行業轉變： 該合作夥伴關係針對 AI 推理市場，麥肯錫估計到 2030 年，該市場可能佔所有資料中心工作負載的 40%，這需要網路架構的根本性變革。

Arrcus 和 NVIDIA 旨在降低 40% 延遲

Arrcus 正在將其網路軟體與 NVIDIA 的硬體整合，以建立更有效率的人工智慧工作負載架構。此次合作於 2026 年 3 月 16 日在 NVIDIA GTC 大會上宣布，將 Arrcus 推理網路架構 (AINF) 與 NVIDIA 的 AI 基礎設施相結合，包括 Dynamo 框架、BlueField-3 DPU 和 Spectrum-X 乙太網路網路平台。目標是創建一個統一的、策略感知的網路，能夠智能地管理資料中心、雲端環境和邊緣位置的 AI 流量。

此次合作旨在為 AI 應用帶來顯著的性能提升。Arrcus 預計整合系統將把端到端延遲降低 40%，並將每次推理的成本降低 30%。這解決了隨著 AI 模型日益普及而出現的關鍵瓶頸。

AI 正在進入其推理時代，其中網路成為性能和經濟效益的控制平面。 — Arrcus 董事長兼首席執行官 Shekar Ayyar。

推理需求推動新網路架構

此次合作解決了 AI 行業從集中式模型訓練向全球分布式推理的根本性轉變。隨著自動駕駛系統、即時視訊分析和智慧體 AI 工作流等應用變得越來越普遍，它們對傳統系統無法滿足的網路基礎設施提出了新要求。這些工作負載需要超低延遲、地理感知資料路由和最大化的 GPU 利用率。

根據麥肯錫的預測，到 2030 年，AI 推理可能佔資料中心工作負載的 40%。Arrcus 設計其 AINF 以管理這種複雜性，透過充當網路的「策略感知 AI」。它根據操作員定義的延遲、功耗或資料主權策略智能路由流量。Arrcus 表示，這種方法可以將響應速度的關鍵指標——首次令牌時間縮短高達 60%。

Arrcus 透過 Lightstorm 和富士通擴展生態系統

為了加速部署，Arrcus 正在建立一個由策略合作夥伴組成的生態系統。連接服務提供商 Lightstorm 將使用 AINF 解決方案，透過其自己的網路即服務 (NaaS) 平台 Polarin，在亞太地區提供即時、大規模的推理服務。這為亞洲的超大規模公司和企業提供了清晰的市場路徑。

與硬體供應商的進一步合作鞏固了 Arrcus 提供替代現有網路提供商的解耦策略。該公司正與富士通合作，將其 AINF 與富士通新的基於 Arm 的 Monaka AI 推理處理器配對。與白盒供應商 UfiSpace 和計算基礎設施公司 Lanner 的額外合作擴展了可運行 Arrcus 軟體的 AI 優化硬體解決方案的範圍。