聯發科合作Meta 生成式AI直接部署終端裝置

中央社

(中央社記者鍾榮峰台北24日電)晶片設計大廠聯發科今天宣布,運用Meta Llama 2大型語言模型,直接將生成式AI功能部署在終端裝置,相關應用預估今年底在新旗艦產品亮相。

聯發科今天透過新聞稿宣布,運用Meta大型語言模型Llama 2,以及聯發科人工智慧處理單元(APU)和人工智慧(AI)開發平台NeuroPilot,建立終端運算生態系統,加速智慧型手機、汽車、智慧家庭、物聯網等終端裝置上的AI功能,預計運用Llama 2模型開發的AI應用,將在今年底新旗艦產品上亮相。

聯發科將在今年底推出新一代旗艦晶片組,採用針對Llama 2模型而設計的軟體堆疊架構NeuroPilot,與搭配支援Transformer模型做骨幹網路加速的升級版AI處理單元,強化大型語言模型和生成式AI性能。

聯發科技無線通訊事業部總經理徐敬全表示,生成式AI(generative AI)浪潮是數位轉型的重要趨勢之一,聯發科透過與Meta合作,可賦予終端裝置AI效能。

聯發科說明,目前大部分的生成式AI處理,是透過雲端運算進行,聯發科將生成式AI直接部署在終端裝置,讓開發者及使用者能直接在裝置上使用Llama 2模型,藉此提升性能。(編輯:張均懋)1120824

新聞來源:中央社



新聞關鍵字

加入Line好友