AMD Ryzen AI Halo 主打在地端AI，128GB統一記憶體，售價1,500美元

AMD Ryzen AI Halo 工作站處理1,200億參數模型可達每秒34個token，起售價為1,500美元，挑戰Nvidia在本地端AI推論硬體領域的主導地位。

「本地端推論是下一波AI部署浪潮的關鍵環節，而記憶體容量是決定性因素，」一名AMD發言人在產品發表會上表示。「統一記憶體架構讓開發者能夠運行那些原本需要昂貴雲端GPU租用的模型。」

該系統搭載16核心Ryzen AI Max+ 395處理器，配備128GB統一LPDDR5X記憶體，無需雲端連線即可支援多達1,200億參數的模型。在1,200億參數模型上達到每秒34個token，其吞吐量比Nvidia DGX Spark慢13%，但價格便宜3,000美元——DGX Spark起售價約為4,500美元。AMD晶片採用傳統x64架構，而非Nvidia以Arm為基礎的Grace CPU，其記憶體成本為每GB 25.77美元，低於Apple M3 Ultra的每GB 41.66美元。

Strix Halo的定位讓AMD有機會切入本地端AI推論市場，此舉可能降低企業對Nvidia和Amazon Web Services雲端GPU服務的依賴。AMD股價年初至今已上漲18%，本益比為28倍，該公司正從傳統CPU和GPU業務擴展至專用AI工作站領域。

硬體規格比一比

Ryzen AI Halo，代號Strix Halo，並非專為遊戲設計，而是為在本地端運行大型語言模型而打造——這項工作流程通常需要仰賴雲端GPU叢集。AMD的統一記憶體架構消除了限制Nvidia GPU的VRAM瓶頸，後者受到離散記憶體池的限制。在需要多個模型依序運行的代理密集型AI流程中，該系統能夠將128GB參數保留在記憶體中，無需分頁至較慢的儲存空間，這提供了比傳統GPU配置更實質的優勢。

記憶體頻寬仍是一項限制因素。雖然AMD標稱理論頻寬為256 GB/s，但實際吞吐量僅為122 GB/s，而Apple M3 Ultra則達819 GB/s。此差距在文件分析等長上下文任務中尤為明顯，Nvidia DGX Spark的預填充速度是其五倍。AMD並未透露其每秒token數聲明的測試條件。

軟體仍是最大短板

AMD支援AI工作負載的ROCm軟體堆疊仍處於預覽階段，且缺乏Windows相容性。相比之下，Nvidia的CUDA環境已深植於AI開發工作流程中，大多數開源模型和框架都優先為其進行優化。AMD正依賴Vulkan作為臨時替代方案，但軟體差距限制了Strix Halo的可及市場，僅限於願意使用較不成熟工具鏈的Linux開發者。

Ryzen AI Max+ 395晶片採用台積電4奈米和5奈米製程製造，與生產Nvidia H100和AMD自家Instinct MI300系列的晶圓廠相同。這款迷你電腦由AMD的OEM合作夥伴組裝，初期將透過美國Micro Center銷售。AMD尚未公布生產數量，也未說明該晶片是否面臨任何單一來源封裝限制。

下一步發展

AMD計劃於2026年第三季推出下一代Gorgon Halo晶片，配備192GB統一記憶體，支援多達3,000億參數的模型。這將使本地端推論觸及目前需要多GPU伺服器配置的前沿模型。Nvidia和Qualcomm預計也將在同一時間框架內推出競爭產品，加劇本地端AI硬體市場的競爭。

AMD進軍本地端AI工作站為其核心CPU和GPU業務之外開闢了新的收入來源，但短期財務影響可能有限。1,500美元的起售價鎖定AI開發者和研究人員——這是一個利基但快速成長的區塊。如果AMD能夠彌補軟體差距，並實現Gorgon Halo 192GB的承諾，它有可能在企業AI推論市場中佔據可觀的市佔率。據IDC預測，該市場到2028年將達到520億美元。就目前而言，Nvidia的CUDA護城河和記憶體頻寬優勢仍讓這家市場龍頭穩居領先地位。

本文僅供資訊參考，不構成投資建議。