AMD 在 Hot Chips 2025 揭露最新 Instinct MI350 GPU 系列，搭載全新 CDNA 4 架構，針對生成式 AI 與 HPC。

隨著大型語言模型（LLM）規模急速膨脹，GPU 需要更大的記憶體與更快頻寬，而 MI350 正是為了解決這個問題而誕生。MI350 採用台積電 3nm（N3P）與 6nm（N6）FinFET 製程，並運用 COWOS-S 先進封裝技術，搭配 3D 多晶粒封裝，將高效能核心與成本效益良好的 I/O 晶粒結合。

（Source：AMD，下同）

HBM 容量衝上 288GB，推理與訓練效能全面提升

記憶體部分則是最大亮點，搭載 8 顆 HBM3E 堆疊，每顆高達 12 層（12-Hi），單顆 36GB，總容量 288GB，比 NVIDIA B200多出約 1.5 倍，而頻寬高達 8TB/s，不論是推理或訓練，都能提供卓越的資料處理效能。

FP8 算力飆破 80 PFLOPs，推理效能躍升 35 倍

在運算表現上，AMD指出，MI350系列下的 MI355X 支援 FP8 運算約 80 PFLOPs，FP16/BF16 亦可達 40PFLOPs，並新增 MXFP6、MXFP4 低精度格式，特別針對 LLM 推理優化。晶片整合 256 MB Infinity Cache，再加上 5.5TB/s Infinity Fabric 雙向頻寬，實現高速互連。整體效能相較前代 MI300，推理能力最高躍升 35 倍。

氣冷 vs. 液冷

至於散熱部分，MI350 系列提供兩種配置版本，其中 MI350X 採用氣冷設計，功耗為 1000W，最高時脈可達 2.2GHz；而 MI355X 則採用液冷方案，功耗提高至 1400W，時脈上看 2.4GHz，主要大入資料中心市場。

AMD 預計 MI350 系列將於 2025 年第三季透過合作夥伴進入市場，下一代 MI400 系列則已在研發，計畫於 2026 年推出。

• AMD’s Instinct MI350 GPU Is A AI-Hardware Powerhouse: 3nm 3D Chiplet Based on CDNA 4, 185 Billion Transistors, 1400W TBP, Over 4000B LLM Support With Massive 288GB Memory

（首圖來源：AMD）

文章看完覺得有幫助，何不給我們一個鼓勵

請我們喝杯咖啡

想請我們喝幾杯咖啡？

每杯咖啡 65 元

x 1 x 3 x 5 x

您的咖啡贊助將是讓我們持續走下去的動力

總金額共新臺幣 0 元 《關於請喝咖啡的 Q & A》

留給我們的話

取消 確認

(责任编辑：蔡俊威)