image
20251204顏嘉南/綜合外電報導

AWS祭AI新晶片 撼輝達霸位

Trn3號稱訓練和運行成本最高降低50%,台積、台達電、台光電、台燿、金像電、勤誠、緯穎受惠

image
AWS發表新一代客製化AI晶片Trainium3,號稱運行速度是前一代的4倍,訓練和運行AI模型成本最高降低50%。圖/美聯社
亞馬遜AWS AI晶片Trainium3介紹

 亞馬遜雲端部門AWS於2日在其年度雲端運算大會發表新一代客製化AI晶片Trainium3(簡稱Trn3),號稱運行速度是前一代的4倍,並可讓訓練和運行AI模型的成本最高降低50%,試圖搶攻輝達主導的AI晶片市場。法人指出,包括台積電、台達電、台光電、台燿、金像電、勤誠及緯穎等可望受惠。

 AWS在拉斯維加斯舉行的雲端運算大會讓Trainium3亮相,是對主宰GPU市場的輝達最新的挑戰。近幾個月一連串交易顯示,愈來愈多AI企業向輝達以外的供應商採購晶片和其他硬體,試圖多元化晶片供應來源,這股趨勢引起投資人關注。

 從技術參數看,Trainium3比上一代Trainium晶片的計算性能最高提升4.4倍,能效提升4倍,記憶體頻寬幾乎提升4倍。同時,亞馬遜還發表Nova 2系列模型及Nova Forge、Nova Act等AI配套服務,試圖打造從晶片到模型再到應用的一體化生態。

 外媒日前披露,Meta正在洽談向谷歌購買價值數十億美元的TPU(張量處理器)。此外,OpenAI與輝達的競爭對手超微(AMD)和客製化晶片商博通(Broadcom)達成協議,取得訓練和運行ChatGPT和Sora等熱門AI模型所需的海量算力。

 企業擴大AI晶片採購來源並不是要揮別輝達的晶片,輝達上季強勁的財報和財測顯示,該公司的先進晶片依然十分搶手。許多AWS晶片的大型買家同時也是輝達的客戶,像是AI新創公司Anthropic。

AWS在10月稍晚透露,Anthropic使用超過100萬顆Trainium2晶片來訓練Claude AI模型。一個月後輝達宣布向Anthropic投資100億美元。

 亞馬遜一方面與輝達競爭,同時也和輝達保持合作關係。AWS在會中表示,下一代Trainium 4將採用輝達的「NVLink Fusion」技術,不過並未透露Trainium4確切的發布時程。

 NVLink技術可在不同的晶片之間實現高速連接,是輝達的核心技術之一。輝達努力吸引晶片廠採用其NVLink技術,英特爾和高通先前已經加入,AWS為其最新客戶。

 輝達執行長黃仁勳透過聲明稿表示,「輝達和AWS攜手創造AI產業革命的運算架構,將先進AI帶給每家企業和每個國家,並加速全球邁向智慧領域。」