輝達發表開發者套件 生成式AI推論效能增1.7倍

中央社

(中央社記者吳家豪台北18日電)人工智慧(AI)晶片大廠輝達(NVIDIA)推出新款NVIDIA Jetson Orin Nano Super開發者套件,僅手掌大小,運行生成式AI的推論效能提高1.7倍,價格從499美元(約新台幣1.62萬元)降至249美元。

輝達今天發布新聞稿表示,新款開發者套件包含一個Jetson Orin Nano 8GB系統模組(SoM)與一個參考設計載板,提供開發邊緣AI應用原型的平台。

輝達指出,與前一代產品相比,今天上市的Jetson Orin Nano Super開發者套件能夠將生成式AI的推論效能提高1.7倍,記憶體頻寬加大50%至每秒102 GB,可用於使用檢索增強生成技術來建立大型語言模型(LLM)聊天機器人、建立視覺AI代理,以及部署AI機器人。(編輯:林淑媛)1131218

新聞來源:中央社



新聞關鍵字

加入Line好友