財經理財
【鴻海法說直擊2】DeepSeek讓蒸餾模型蔚為風潮 劉揚偉樂見邊緣與高階AI雙軌成長
發佈時間2025.03.14 18:13 臺北時間
更新時間2025.03.14 18:13 臺北時間
已複製連結
鴻海在AI高階伺服器強勁需求帶動下，今年營運持續樂觀，董事長劉揚偉更強調，DeepSeek（簡稱：DS）採用蒸餾技術打造開源模型，不但不會影響高階AI伺服器的需求，還可以加速邊緣AI的普及。
他更透露，日前鴻海研究院對外發表首款繁體中文大型語言模型「FoxBrain」，就是採用DS的蒸餾方法，這方法以前就有，但業界總覺得不合法，以至於做了也不敢說，如今DS的問世，將打破生成式AI由大型CSP業者一手主導的局面。
「DS採用的技術，過去業界就很多人用，就是把已經成熟的語言模型，透過知識蒸餾來訓練出新模型。」劉揚偉解釋，蒸餾法早就存在，但過去業界總覺得不合法，如今走出突破。
接著他透露，鴻海FoxBrain就是用類似蒸餾的方法，再把繁體中文部分進一步加強，而且只用了100張輝達H100來訓練，內部研發團隊告訴他，若照過去的做法需要用到2千張以上H100，因為大大加速了推理訓練開發速度，他認為這將打破開發AI開發多由大型CSP業者的主導局面，「會有越來越多如鴻海這樣的中型業投入。」他說。
劉揚偉並表示，FoxBrain模型，無論在繁體中文的對話能力或數學上表現都有不錯的測試校能，該模型未來也會開放給變成開源（Open source）讓業界在繁體中文上的應用進行開發，而這種以推論為主的訓練模型，不但不會衝擊高階AI伺服器的需求，還會帶動邊緣AI發展逐漸普及，「會有更多個人、客製化的生成AI需求落地。」他說。
鴻海2024年來自大型CSP對AI需求明顯增加，已帶動AI伺服器年營收超過150％的成長，劉揚偉表示，AI伺服器今年確定將佔整個伺服器營收5成以上，營收不但一季比一季好，全年挑戰兆元規模，而光第1季AI伺服器無論季對季、年對年，也都會有100％、也就是一倍的成長。
「我們從市場供需觀察到，大型CSP到一線品牌客戶，對高階AI伺服器的買氣仍佳，能見度比之前預期更好。」他更直指幫輝達生產的GB200以及未來的GB300等新產品新案，都陸續在擴產滿足需求。
針對GB200量產卡關的市場消息，劉揚偉也做出回應，指出GB200的NV72，是非常複雜的系統，得需要收集很多數據，才能讓生產變得更順暢，如今經過半年多的調校改善，已看到此產品良率達到批量生產的標準，因此確定未來幾季的出貨量會持續增長。
他更強調，幫客戶生產AI伺服器，穩定度非常重要，訓練也要花上很長一段時間，期間凡有故障問題，訓練都得重新來過，這也是這一行業門檻高的原因所在，鴻海也因為獲得客戶信任，品質穩定度處於業界領先地位，他預估目前在高階伺服器市場，鴻海40％市占是保守，有信心今年會更高，下週輝達的GTC大會，鴻海也會展出最新解決方案。