Arrcus 携手英伟达加速 AI 推理网络

Edgen Stock·Mar 16 2026, 14:54

分享到

分享到

复制链接

主要观点

Arrcus 正在将其网络架构与英伟达的完整 AI 堆栈整合，以创建更高效的人工智能应用基础设施。此次合作旨在解决市场日益增长的从集中式 AI 模型训练向全球分布式推理的转变，这需要一种新型的智能低延迟网络。

战略整合： Arrcus 宣布将其 Arrcus 推理网络架构 (AINF) 与英伟达的 AI 基础设施进行整合，包括 BlueField-3 DPU 和 Spectrum-X 网络平台。
性能目标： 该组合解决方案旨在将端到端延迟降低 40%，将每次推理成本降低 30%，并将首次令牌时间缩短 60%。
行业转变： 该合作伙伴关系针对 AI 推理市场，麦肯锡估计到 2030 年，该市场可能占所有数据中心工作负载的 40%，这需要网络架构的根本性变革。

Arrcus 和英伟达旨在降低 40% 延迟

Arrcus 正在将其网络软件与英伟达的硬件整合，以构建更高效的人工智能工作负载架构。此次合作于 2026 年 3 月 16 日在英伟达 GTC 大会上宣布，将 Arrcus 推理网络架构 (AINF) 与英伟达的 AI 基础设施相结合，包括 Dynamo 框架、BlueField-3 DPU 和 Spectrum-X 以太网网络平台。目标是创建一个统一的、策略感知的网络，能够智能地管理数据中心、云环境和边缘位置的 AI 流量。

此次合作旨在为 AI 应用带来显著的性能提升。Arrcus 预计集成系统将把端到端延迟降低 40%，并将每次推理的成本降低 30%。这解决了随着 AI 模型日益普及而出现的关键瓶颈。

AI 正在进入其推理时代，其中网络成为性能和经济效益的控制平面。 — Arrcus 董事长兼首席执行官 Shekar Ayyar。

推理需求推动新网络架构

此次合作解决了 AI 行业从集中式模型训练向全球分布式推理的根本性转变。随着自动驾驶系统、实时视频分析和智能体 AI 工作流等应用变得越来越普遍，它们对传统系统无法满足的网络基础设施提出了新要求。这些工作负载需要超低延迟、地理感知数据路由和最大化的 GPU 利用率。

根据麦肯锡的预测，到 2030 年，AI 推理可能占数据中心工作负载的 40%。Arrcus 设计其 AINF 以管理这种复杂性，通过充当网络的“策略感知 AI”。它根据操作员定义的延迟、功耗或数据主权策略智能路由流量。Arrcus 表示，这种方法可以将响应速度的关键指标——首次令牌时间缩短高达 60%。

Arrcus 通过 Lightstorm 和富士通扩展生态系统

为了加速部署，Arrcus 正在建立一个由战略合作伙伴组成的生态系统。连接服务提供商 Lightstorm 将使用 AINF 解决方案，通过其自己的网络即服务 (NaaS) 平台 Polarin，在亚太地区提供实时、大规模的推理服务。这为亚洲的超大规模公司和企业提供了清晰的市场路径。

与硬件供应商的进一步合作巩固了 Arrcus 提供替代现有网络提供商的解耦策略。该公司正与富士通合作，将其 AINF 与富士通新的基于 Arm 的 Monaka AI 推理处理器配对。与白盒供应商 UfiSpace 和计算基础设施公司 Lanner 的额外合作扩展了可运行 Arrcus 软件的 AI 优化硬件解决方案的范围。