輝達GTC 2024點燃市場對新世代AI加速器GB200的關注,廣達資深副總經理暨雲達總經理楊麒令透露,GB200伺服器需求量很大,預計9月份量產出貨,目前看來下半年晶片缺料有望舒緩,第二季將比第一季好,今年整體伺服器出貨表現應是逐季提升,並維持全年雙位數年增目標。
■下半年晶片缺料可舒緩
生成式AI(Generative AI)技術近年崛起,成為全球科技發展的焦點之一。DIGITIMES分析師黃耀漢指出,今年開始到2030年的整體年複合成長率高達83%,且預估2023年生成式AI市場規模將高達1.5兆元。顯示AI應用僅在初步快速發展階段。
同時,隨著ChatGPT4.0及許多大型語言模型(LLM)問世,CSP雲端業者對於訓練需求(Training)需求很高,以現階段來看,AI訓練伺服器需求高於AI推論伺服器(Inference),畢竟訓練型伺服器也可支援推論。
GB200是由一顆Grace系列的CPU加上兩顆B100 GPU結合,支援第二代Transformer引擎,能運轉數兆參數規模的語言模型,意味著大型語言模型即將進入「兆級參數」時代,市場傳出組裝訂單由廣達、鴻海、緯創及緯穎四家分食。
■四大CSP業者都有需求
楊麒令指出,在各大CSP(雲端服務供應商)業者積極投入AI布建帶動下,預期今年AI伺服器占整體伺服器的比重有望優於去年的2成多,提升至主要份額(Major Share)。另外,搭載NVIDIA GB200的伺服器正開發中,四大CSP業者都有需求,因此訂單量不小,目前規劃是在今年9月量產出貨。
■今年在美國、德國擴廠
而為了因應強勁AI伺服器需求,廣達也持續擴張產能。楊騏令表示,今年美國加州、田納西州,以及德國廠持續進行擴張,增加海外組裝產能,因此今年的資本支出和去年相比會增加不少;至於是否會在泰國建置主機板L6組裝產線,目前還在評估中,因為涉及地緣政治,可能會到年底美國大選結束後才會較為明朗。
工研院23日舉辦「2024國際超大型積體電路技術研討會(VLSI TSA)」,會中也公布2024 ERSO Award四位新科得主,包括環球晶圓董事長徐秀蘭、帆宣董事長高新明、雲達總經理楊麒令、美超微創辦人梁見後。