256GB超大容量HBM3E內存大幅降低萬億參數大模型推理門檻
超威半導體於2026年11月11日正式發貨旗艦AI芯片。根據AMD在加州聖何塞舉辦的Advancing AI盛會上發佈的技術白皮書披露,Instinct MI325X基於CDNA 3架構深度演進打造,搭載256GB容量HBM3E內存子系統。單臺配置八張加速卡的服務器整機,可在本地顯存直接裝載運行萬億參數大模型,避免傳統跨節點網絡通信帶來的性能延遲開銷。
據彭博新聞社與路透社半導體科技專線報道,AMD董事長兼首席執行官蘇姿豐博士在Advancing AI盛會主旨演講中登臺發言。蘇姿豐表示,全球超大規模雲廠商對多元化、高性能且具備成本效益的AI計算硬件渴望已久;Instinct MI325X正式發貨,提供內存帶寬與容量,結合開源且深度優化的ROCm軟件生態,讓AI科研人員以更低資本開支部署前沿模型。基準性能實測數據顯示,在運行Meta最新開源的Llama 3.1 405B前沿模型時,MI325X平臺的推理吞吐量較英偉達同類競品實現1.3倍領先。
隨着芯片正式宣佈全量供貨,戴爾科技、聯想集團、超微電腦以及慧與科技展示基於MI325X的模塊化標準AI算力機櫃方案,各家整機系統將於本季度內入駐雲計算中心。微軟Azure已宣佈將在旗下公有云中正式上線由MI325X驅動的虛擬機實例。AMD開源ROCm軟件棧當前已支持PyTorch、JAX及vLLM等主流機器學習推理框架。蘇姿豐博士首次對外披露下一代算力芯片路線圖,新一代芯片將切換至臺積電半導體工藝,並引入CDNA 4微架構,專爲FP4與FP6低精度大模型訓練設計。



