image
20250923張珈睿/台北報導

雙NPU黑科技 聯發科天璣9500存算一體大突破

 AI巨獸對算力的飢渴正以前所未有的態勢衝擊著半導體產業,「記憶體牆」(Memory Wall)成巨大瓶頸。傳統電腦架構中,處理器與記憶體分離的設計,導致部分功耗消耗在資料往返搬運上,為此存算一體(Compute-in-Memory)因應而生;聯發科在天璣9500中,將處理AI的NPU(神經網路處理器)以運算與記憶體結合架構打造。

 聯發科無線通訊事業部總經理李彥輯指出,CIM就是希望在記憶體儲存過程中,做到逐片運算,大幅降低運算時存取記憶體所需能量。供應鏈業者指出,芯測為全球少數提供記憶體測試與修復的EDA業者,深耕CIM架構研發,提供頂級IC設計客製化方案。

 李彥輯分析,天璣9500因應未來手機作為個人助理需求,Always on使手機更懂用戶需求、並即時響應;聯發科鑽研CIM技術多年,首次將該技術搭載於NPU上,在大、小模型運算上,能將功耗降到最低。

 全新高性能高能效雙AI處理器NPU 990,賦予智慧手機遠超以往的AI能力;峰值性能較上一代提升111%,在大語言模型智慧摘要的輸出能力、多模態理解能力皆大幅躍進;同時,NPU 990兼顧讓AI體驗更持久,相較上一代在峰值性能功耗降低56%。

 芯測針對CIM的測試電路,開發相關SRAM測試與修復EDA工具,與國際IC大廠合作,以創新的記憶體運算技術,驅動AI演算法更節能;據悉,在AI伺服器需求帶動下,GPU與HBM也正加快公司營運成長。

 IC設計公司透露,芯測近年積極推動商業模式轉型,除傳統授權與維護費外,導入類似IP(矽智財)的權利金模式,未來成長彈性提升。此外,美國出口管制下,中國大陸自研EDA需求急速上升,芯測市場空間廣闊。

 傳統的馮紐曼(Von Neumann)架構,運算單元(CPU/GPU)與記憶體單元(DRAM/SRAM)分離。CIM漸成為新應用嘗試,不過,李彥輯強調,CIM運算處理的運算單元相對單純,現階段最適合的應用當屬高能效NPU。