財經理財
【半導體展熱點2】力積電攜手工研院強攻3D堆疊晶片 獲超微導入AI伺服器平台
發佈時間2024.09.05 14:56 臺北時間
更新時間2024.09.05 14:56 臺北時間
已複製連結
生成式AI帶動下，所搭配的高頻寬記憶體（HBM）因產能有限近期供不應求，為了緩解此一缺口，力積電今年於SEMICON Taiwan與工研院聯手發表以記憶體為中心的MOSAIC 3D AI晶片（Memory-cube Operability in a Stacked AI Chip；MOSAIC），因為大幅縮減了記憶體與運算晶片之間的距離，資料傳輸的頻寬不但是傳統AI晶片10倍、還能降低1/7功耗，成為3D IC封裝下頗具成本競爭力的解決方案，因此獲得美商超微（AMD）導入，針對下一代AI伺服器平台展開合作。
力積電副總經理暨技術長張守仁表示，目前AI搭配的HBM多半使用的CoWoS這類的2.5D封裝，效能很好，但成本、功耗還是有下降與改善空間，而力積電與工研院合作開發的3D堆疊晶片，非常適合接下來Chiplet之下的3D封裝。
「我們（MOSAIC）是以記憶體為中心的3D堆疊技術，跟工研院的合作，不只提供邏輯晶片上的客製設計，連記憶體也利用特殊規格來打造，再搭配晶圓堆疊（Wafer on Wafer），使得這個產品相較於2.5D的HBM多了10倍頻寬，但功耗只有1/7到1/8，是一個很好替代方案。」張守仁補充。
張守仁進一步指出，記憶體未來若要廣泛應用在大語言模型，頻寬要更增加，力積電推出的多層晶圓堆疊可望滿足，目前也將全力以銅鑼新廠為生產重心，搭配集團子公司如IP等資源打造完整生態鏈。
經濟部產業技術司司長邱求慧則說明，目前的生成式AI，多得靠高速頻寬記憶體才能跑得動，但成本相當高，產能也相當有限，MOSAIC 3D AI不但頻寬可比傳統HBM大增，還能確保AI算力，成本更比傳統的少了1/5，他推估在邊端的AI市場會很有價格競爭力，更透露目前也與超微正展開下一代產品的合作。
據了解，MOSAIC 3D AI晶片針對目前市場一片難求的高頻寬記憶體（High Bandwidth Memory；HBM），提供AI產業更高效能、高彈性、高性價比的替代方案，結合邏輯與記憶體的創新技術，也一舉拿下2024 R&D100大獎，
而根據Fortune Business Insights預估，生成式AI市場規模，將從2024年的670億美元，增長到2032年的9,676億美元，年均複合成長率高達39.6％，截至目前為止，經濟部產業技術司積極投入AI人工智慧、HPC半導體、化合物半導體等前瞻技術研發，已投入超過300億元在相關領域，此次MOSAIC 3D AI晶片技術榮獲2024 R&D100大獎，不僅能顯著提升AI模型的運算效能，還能在成本和能耗方面提供更具競爭力的解決方案，為我國在全球AI產業競賽中奠定了堅實基礎。