image
20240124陳穎芃/綜合外電報導

超微里程碑 AI王牌晶片正式出貨

號稱性能勝輝達H100

image
超微Instinct MI300X處理器在外界引領期盼下,終於正式交貨。圖/美聯社
超微Instinct MI300X規格

 超微(AMD)專為AI及高效能運算開發的Instinct MI300X處理器在外界引領期盼之下,終於在近日正式交貨。長期與超微合作的AI服務業者LaminiAI表示,近日已收到多台內建8個MI300X處理器的運算設備。

 超微Instinct MI300系列產品自去年就開始出貨,且超微宣稱該系列可望成為公司史上營收最快破10億美元的產品系列,但號稱性能勝過輝達H100處理器的MI300X遲遲未出貨,這回是第一次有客戶證實MI300X開始大量出貨,象徵超微終於達成重要里程碑。

 LaminiAI專門訓練商用大規模語言模型,因此向超微採購多台內建8個MI300X處理器的運算設備。科技情報網站Tom’s Hardware報導,LaminiAI執行長Sharon Zhou近日在網路上公開MI300X運算設備的照片。

 她表示,第一批超微MI300X處理器正在運算中。內建8個MI300X處理器的設備已經上線,就像剛出爐的麵包一樣新鮮。若您正在打造開放原始碼的大規模語言模型,但運算經常卡關,請告訴我。大家都該享受大規模語言模型這樣神奇的科技。我的意思是,LaminiAI新一批大規模語言模型已經上線。

 超微先前推出的MI300A處理器已經是資料中心等級,內建x86 CPU及GPU,並採用支援AI運算的CDNA 3架構。MI300X雖然沒內建CPU,但CDNA 3晶片組數量更多,共有304個運算單位,遠勝MI300A的228個運算單位。

 MI300X被視為超微對抗輝達H100處理器的最佳武器,因為MI300X內建HBM3 192GB記憶體,勝過H100的HBM3 80GB記憶體,且MI300X記憶體頻寬高達每秒5.2TB,反觀H100記憶體頻寬每秒3.35TB。業界人士甚至認為MI300X足以和輝達即將推出的H200 141GB GPU抗衡。

 在客戶方面,微軟和Meta已採購大量的MI300系列,LaminiAI則是首個公開採用MI300X的客戶。