image
20250311侯冠州/台北報導

推出FoxBrain 鴻海加速衝AI大語言模型

image
全球伺服器出貨預測

 鴻海宣布,旗下鴻海研究院推出首款繁體中文AI大型語言模型(LLM)FoxBrain。此模型原為內部應用而設計,涵蓋數據分析、決策輔助、數學、推理解題等功能,還能針對台灣使用者的語言風格進行優化,後續將對外開源分享,且未來將透過導入AI大型語言模型,優化智慧製造、智慧電動車、智慧城市等三大平台的數據分析效率,進一步提升公司營運效益。

 據悉,鴻海研究院人工智慧研究所在FoxBrain訓練過程中,使用120張H100 GPU,並透過NVIDIA Quantum-2 InfiniBand網路進行擴展,僅花約四周時間完成,相較於近期其他公司所推出的推理模型,實現更高效率,更低成本的模型訓練方式。同時,FoxBrain採用Meta Llama 3.1為基礎架構,擁有70B參數,在TMMLU+測試資料集,大多數領域優於國內相同規模的Llama-3-Taiwan-70B,尤其是數學與邏輯推理方面。

 鴻海說明,FoxBrain以自主研發方式穩扎穩打把每個環節做好,在運用有限的算力資源下仍能達到接近世界頂尖AI大模型的效益,並顯示台灣科技人才在AI大模型領域也能與國外人才並駕齊驅。

 鴻海補充,在模型訓練過程中,NVIDIA提供Taipei-1超級電腦的支持以及技術諮詢,使鴻海研究院透過使用NeMo順利完成模型訓練;而FoxBrain不僅是鴻海AI研發的重大突破,也為台灣AI產業發展樹立新標竿,將在更多場景中發揮影響力,推動企業數智化轉型與全球產業升級。