AMD 早前在資料中心發布會發布了全新 Instinct 300 系列 APU,除了早已在 CES 亮相的數據中心級 APU Instinct MI300A 外,更有針對生成式 AI 需求,有高達 192GB HBM3 記憶體的 Instinct MI330X 加速器。
AMD Instinct MI339A 及 MI330X 均採用混合 5nm 和 6nm 製程晶片的小晶片式設計,市場定位似乎與 NVIDIA 的 Grace Hopper Superchip 及 H100 相近。
▲ Instinct MI300A 與 Instinct MI300X 最快於今年第四季量產
據台媒報道, AMD 現時已開始生產並為商業客戶提供 Instinct MI300A 的樣本,Instinct MI300X 則最快要今年第 3 季度才能夠開始提供樣本。AMD 表示,Instinct MI300A 及 MI300X 均預計在今年第 4 季度開始量產。
AMD Instinct MI300A 是 AMD 針對 AI 生成功能及高性能計算(High-performance computing,HPC)而設計的 APU(Accelerated Processing Unit,加速處理單元),架構採用 24 核 Zen 4 和 AMD CDNA3 加速架構,以小晶粒的形式組裝而成。
與民用消費級 APU 產品相比, Instinct MI300A 採用 CPU + GPU 統一記憶體架構,配合 128GB HBM3 記憶體, 讓使單一異構晶片的 CPU 與 GPU 能直接存取彼此運算的結果。
▲ Instinct MI300A 由 24 核 Zen 4 與 CDNA3 GPU 構成
Instinct MI300X 是 AMD 設計用以專門針對生成式 AI 的加速器產品,基於 AMD CDNA3 的小晶片架構,採用 896 GB/s 的 Infinity Fabric 相互連接,內置高達 192GB 的 HBM3 記憶體,記憶體頻寬達 5.2TB/s ,在連接 8 張後可在 AMD Instinct Platform 擁有 1.5 TB 的記憶體容量。
▲ Instinct MI300X 內置高達 192GB HBM3 記憶體
此外, AMD 亦同時公布 AMD Instinct Platform。AMD Instinct Platform由 8 張 Instinct MI300X 組成,具有高達 1.5TB 記憶體,同時強調其設計依循產業標準「開放運算計畫」(Open Compute Project,OCP)。據台媒報道,AMD Instinct Platform 設計與 NVIDIA NVLINK 相近,但 AMD 並沒有提供更詳細的資料。
▲ AMD Instinct Platform 由 8 張 Instinct MI300X 組成
不過 Moor Insights & Strategy 的分析師 Anshel Sag 表示:即使AMD在硬件性能方面具有更強的競爭力,但人們似乎仍不太相信AMD的軟件解決方案生態環境能與NVIDIA媲美……