聯發科 AI小模型助邊緣運算

　隨AI模型快速發展，晶片大廠高通與聯發科不約而同，分別針對AI語言模型及邊緣終端技術，提出最新見解與應用展望，揭示AI小模型及邊緣推論的趨勢。聯發科企業策略與前瞻技術資深處長梁伯嵩日前指出，小型參數語言模型的出現，對於邊緣裝置使用AI提供更多可能性；高通資深技術行銷總監江坤霖也表示，生成式AI（Generative AI）若僅依賴雲端，將難以實現普及化，AI推論轉移邊緣將是趨勢。

　模型提供業者轉向推出小規模模型，包括微軟、Google等公司。梁伯嵩認為，對於常見的AI使用情境，小型及中型模型更有意義；且小型模型使用算力較少，運行成本也更低。他比喻，對於企業來說，並不需要一個博士應對日常使用，小型語言模型更像是研究生、大學生即可解題。

　聯發科AI AGENT不限語言文字的多模型態即能符合邊緣裝置需求。緊接而來的旗艦級晶片連發，供應鏈透露，Vivo、OnePlus主品牌將採用聯發科，子品牌則使用高通，左右逢源。

　江昆霖分析，未來邊緣AI朝向小而美的方式邁進，而CPU、NPU都是AI訓練的關鍵，但因應產品設計概念，需要不同處理器達到最佳化，每個處理器單元充分合作，加上軟體提升，解決複雜使用情境。他強調，高通致力於打造AI生態系，加速裝置AI開發，如推出AI Stock軟體套件及AI Hub，通過讓開發者在高通平台上選用模型，開發符合自身需求的邊緣AI裝置。

　儘管智慧型手機市場銷售增長有限，但引入AI功能仍有助元件升級。法人評估，下一代旗艦機型Galaxy S25，隨著高通Snapdragon 8 Gen5晶片的使用，有望帶動被動元件需求成長；而聯發科即將推出的Dimensity 9400晶片，也可能幫助陸系旗艦手機在被動元件與光學方面實現升級。

　另外，蘋果開始針對不同產品線之SoC進行精細化設計，A18 Pro和A18晶片面積不同，前者要更大。未來安卓旗艦晶片是否也會陸續跟進，值得觀察。