數發部年底推人工智慧風險分級框架 引領AI安全發展

中央社

(中央社記者潘姿羽台北19日電)數位發展部部長黃彥男指出,未來企業如果不會用生成式AI,很可能會被淘汰,然而生成式AI的風險伴隨應用而升,政府政策藍圖必須引領AI安全發展,因此數發部將推動人工智慧風險分級框架,預計今年底出爐。

黃彥男今天出席GDDA 2024國際AI資安論壇,他於專題演講時指出,生成式AI讓人類的生活與工作發生重大改變,在此浪潮之下,全球政府都在思考人如何與AI合作,但不可諱言,生成式AI帶來諸多好處的同時,風險也伴隨應用而升。

黃彥男點出生成式AI的5大風險及影響面向,分別是虛假訊息、資訊安全、國家安全、內容合規與侵犯智慧財產權;虛假訊息方面,可能導致假消息及惡意言論氾濫,或是操縱輿論等問題,資安方面則有機敏資料外流,以及濫用深偽技術、模型攻擊與防禦等威脅。

國安面向,存在國家機密資料或國民資料外洩、蒐集影響國家安全的資訊、國家立場或政治輿論操弄等風險。

黃彥男表示,有鑒於AI的機會與風險伴隨而生,全球政府陸續擬定AI治理政策與指引,台灣也由國科會於今年7月端出人工智慧(AI)基本法草案,引導各機關發展AI應用;數發部也將參考國際標準或規範,推動人工智慧風險分級框架,各目的事業主管機關得循前項風險分級框架,訂定主管業務的風險分級規範。

黃彥男會後受訪時表示,風險分級框架會分成好幾級,如高中低等分級方式,會根據風險、怎麼應用,有不同風險要求,預計年底要出爐。

黃彥男也說,推動AI研發與應用過程中,應確保AI應用不會侵害個人資料、生命財產安全,或引發偏差、歧視,並由相關機關提供評估工具,協助各部門避免風險。(編輯:潘羿菁)1130819

新聞來源:中央社



新聞關鍵字

加入Line好友