image
20210502集邦科技資深分析師曾伯楷

邊緣AI 2026將成 IoT晶片發展核心

image
圖/摘自freepik
圖/摘自Pexels
2019~2023年中國AI晶片市場推估
AI於IOT流程主要著眼數據處理與分析之效
台灣人工智慧晶片聯盟系統應用SIG發展架構

隨著智慧工廠、城市等場景對數據分析越發需要精準、即時且大量處理的需求,AI與IoT結合已是現在進行式。在AI晶片助益下,IoT邊緣與終端裝置可透過機器學習或深度學習等技術加值,同時帶出無延遲、低成本、高隱私等優勢,顯示出AI晶片的重要性。預估全球AI晶片產值至2025年將達720億美元。

 與此同時,邊緣運算透過AI使終端設備於運行上更加智慧,不僅保有邊緣運算於延遲性、隱私性、連接性、功耗、成本等優勢,並進一步使系統具有主動性與智慧性。若以場景角度切入,邊緣AI相較傳統邊緣運算,其主要帶來的效益包括數據處理過濾和邊緣智慧分析,此也將成為兩技術持續結合的動能。

 一、MCU、連接晶片、AI晶片為IoT晶片產業鏈三大關鍵零組件。 物聯網在傳統上多以感知層、網路層、系統層與應用層作為架構堆疊,主要經濟效益雖來自應用層的智慧情境發展,然感知層所需的產業鏈之上游零組件仍是支撐終端場景運作重要核心,其中又以微控制器(MCU)、連接晶片與AI晶片最關鍵。

 MCU方面,建立在高效能、低功耗與高整合發展主軸下,IoT MCU現行從通用MCU演化成特定為IoT應用或場景所打造,如2021年3月STMicroelectronics推出新一代超低功耗微控制器STM32U5系列,可用於穿戴裝置與個人醫療設備;Silicon Labs同期推出PG22 32位元MCU,主打空間受限且須低功耗的工業應用、Renesas RA4M2 MCU著眼IoT邊緣運用等。

 連接晶片方面,受物聯網設備連線技術與標準各異影響,通訊成物聯網晶片中相當重要的一環,從蜂巢式的4G、5G、LTE-M、NB-IoT,到非蜂巢式的LoRa、Sigfox、Wi-Fi、Wi-SUN等,從智慧城市、工廠、家庭至零售店面皆被廣泛運用,範圍擴及至太空,如2020年下旬聯發科與國際航海衛星通訊公司(Inmarsat)合作,成功以NB-IoT晶片完成全球首次5G物聯網高軌衛星資料傳輸測試。AI晶片方面,隨著智慧工廠、城市等場景對數據分析越發需要精準、即時且大量處理的需求,AI與IoT結合已是現在進行式。此外,Microsoft在其2021年3月舉辦的年度技術盛會Ignite 2021上指出,2022年邊緣運算市場規模將達到67.2億美元,與深度學習晶片市場相當吻合,亦提及市場預估至2025年全球深度學習晶片市場將有望達663億美元。同時,Microsoft認為至2026年全球AI晶片有3/4將為邊緣運算所用,顯示出IoT晶片於邊緣運算的發展將成未來廠商重要布局之一。

 二、邊緣AI效益顯著,成長動能仰賴數據處理過濾、邊緣智慧分析。

 首先,從邊緣運算定義來看,市場雖已談論數年但定義與類別始終未統一,原因是各廠商於邊緣託管工作的目的不盡相同。例如對電信商而言,初步處理數據的微型數據中心是其邊緣端,而對製造商來說邊緣裝置可能是生產線的感測器,此也造就邊緣運算的分類方式略有出入。另外,例如IBM有雲端邊緣、IoT邊緣與行動邊緣的類別,ARM多將邊緣視為雲端與終端間的伺服器等裝置,亦有個人邊緣、業務邊緣、多雲邊緣等類型。

 其次,從邊緣運算類別來看,現行分類趨勢和研究方式尚有以數據產生源為核心,藉由設備與數據源的物理距離作為分類參考,並將其分為厚邊緣(Thick Edge)、薄邊緣(Thin Edge)與微邊緣(Micro Edge)。厚邊緣多用以表示處理高數據流量的計算資源,並配有高階CPU、GPU等,例如數據中心的數據儲存與分析;薄邊緣則包含網路設備、工業電腦等以整合數據為主要目的,除了配有中間處理器外,也不乏GPU、ASIC等AI晶片;微邊源因與數據源幾無距離,故常被歸類為生成數據的設備或感測器,計算資源雖較為匱乏,但也可因AI晶片發揮更大效益。

 整體而言,邊緣運算透過AI使終端設備於運行上更加智慧,不僅保有邊緣運算於延遲性、隱私性、連接性、功耗、成本等優勢,並進一步使系統具有主動性與智慧性,在平台管理、工作量合併與分布式應用也更有彈性。若以場景角度切入,邊緣AI相較傳統邊緣運算,其主要帶來的效益提升包括數據處理過濾和邊緣智慧分析,此也將成為兩技術持續結合的動能。

 數據處理與邊緣分析於過往邊緣運算時已可做到,並在AI加值下進一步提升效益。以前者而言,數據透過智慧邊緣計算資源可在邊緣處預先處理數據,且僅將相關資訊發送至雲端,從而減少數據傳輸和儲存成本;從邊緣分析效能來看,過往多數邊緣運算資源處理能力有限,運行功能時往往較為單一,而邊緣智慧分析透過AI晶片賦能,進而能執行更為繁複、低延遲與高數據吞吐量的作業。

 三、全球大廠搶攻IoT晶片市場,中國加重AI晶片發展力道。

 IoT晶片於邊緣運算所產生的效益,使其成為廠商重要策略布局領域,雲端大廠如Google、AWS等紛紛投身晶片自製;傳統晶片大廠如ARM最新產品即鎖定邊緣AI於攝影機和火車的辨識應用、Intel亦投資1.3億美元於十餘家新創AI晶片設計廠商,NXP Semiconductors、Silicon Labs、ST則陸續在其MCU或SoC添加邊緣AI功能。此外,新創企業Halio、EdgeQ、Graphcore皆以AI晶片為主打。整體而言,若以區域來看,歐美大廠聚焦加速AI運算效能,但最積極發展AI晶片產業的則屬產官學三方皆支持的?心,代表性廠商包含地平線、華為旗下海思等代表;台灣則由產業聯盟領頭與聯發科和耐能等重要廠商。

 (一)中國產官學助力,2023年AI晶片產值估將逼近35億美元。

 AI產業是中國發展重點之一,其輔助政策如2017年《新一代人工智能發展規劃》、《2019年促進人工智能和實體經濟深度融合》,至「十四五」與「新基建」,都將AI視為未來關鍵國家競爭力。各大廠也因此陸續跟進,如百度發布AI新基建版圖著眼智慧雲伺服器;阿里宣布未來至2023年將圍繞作業系統、晶片、網路等研發和建設,騰訊則聚焦區塊鏈、超算中心等領域。

 產官學研加重AI的發展力道也反映於AI晶片上,ASIC(特殊應用基體電路)廠商比比皆是。其中,AI晶片布局物聯網領域的廠商眾多,包含瑞芯微、雲天勵飛、平頭哥半導體、全志科技等,主要面向雲端運算、行動通訊、物聯網與自動駕駛四大領域。其中,物聯網領域進一步聚焦於智慧家庭、智慧交通、智慧零售與智慧安防部分,執行語音、圖像、人臉與行為辨識等應用。若進一步聚焦於邊緣運算領域,則以地平線、寒武紀、華為海思、比特大陸、鯤雲科技等最為積極。整體而言,TrendForce預估,中國AI晶片市場有望從2019年13億美元增長至2023年近35億美元。

 綜觀中國AI晶片發展,雖有中美貿易摩擦導致設計工具、製造封測等環節較受限制,且開發成本始終居高不下,然而,藉由產官合作以及中國內需市場需求動能,仍能有效支撐該產業成長。若以邊緣運算來看,鑒於AIoT市場持續茁壯,特定應用的ASIC將是重要發展趨勢,尤以汽車、城市與製造業來看,相關場景應用如人身語音行為辨識、人車流量辨識、機器視覺等需求皆相當明朗,預期也將成廠商中長期發展主軸。

 (二)台灣人工智慧晶片聯盟積極整合,監控與機器人為邊緣AI應用兩大方向。

 台灣廠商聯發科和耐能同樣結合邊緣運算與AI兩技術作策略布局,就整體產業而言,2019年由聯發科、聯詠、聯電、日月光、華碩、研揚等廠商共同組成的台灣人工智慧晶片聯盟(AITA)發展迄今已越趨成形,各關鍵技術委員會(SIG)亦訂定短中長期發展目標。

 邊緣AI發展則由AI系統應用SIG推動,其第一階段至2020年著眼半通用AI晶片發展與智慧監控系統應用平台的裝置端推論,2021年則聚焦以裝置端學習系統參考設計,以及軟硬體發展平台的裝置端學習為主,並規劃在2023年能以多功能機器人為主體,發展多感知人工智慧和智慧機器人AI晶片發展平台。

 換言之,藉由業界在智慧裝置、系統應用與AI晶片的串聯,短期至2022年都將是台灣邊緣AI大力發展階段,並朝智慧監控、多功能機器人深化,預期此也將帶動系統整合的凌群、博遠,終端設備的奇偶、晶睿碩,以及晶片設計的聯發科、瑞昱等邊緣AI商機;但相較中國廣大內需市場,台灣仍需藉由打造讓晶片廠和系統商充分整合的互補平台,以利降低晶片開發成本,並從其中尋求更多可供切入的大廠產業鏈。(本文作者為TrendForce集邦科技資深分析師曾伯楷)