研調:生成式AI成駭客新武器 當心社交工程詐騙

中央社

(中央社記者吳家豪台北11日電)資安業者趨勢科技今天公布2024年資安年度預測報告指出,蠕蟲自動化攻擊為雲端環境首要威脅,駭客將利用新興科技強化威脅,例如透過生成式AI優化社交工程技巧,大型語言模型(LLM)也可能面臨「資料下毒」風險。

趨勢科技台灣區總經理洪偉淦今天出席媒體交流會表示,2023年聊天機器人ChatGPT等生成式AI(人工智慧)技術的出現,讓人們對於AI應用有了更多想像。這些能帶來轉型動能的突破性技術,不僅成為企業競爭的基本籌碼,也成為駭客攻擊的新型武器。

洪偉淦強調,傳統攻擊未因此消失,駭客集團反而透過新技術來優化自身營運模式,提升攻擊速度與力道,擴大資安事件衝擊。預期2024年全球整體資安環境的風險與壓力都將增強,無論個人或企業,都需要具備並強化資安意識和審慎評估對應方法。

根據趨勢科技的研究,蠕蟲病毒具備自動化大量攻擊漏洞的能力,很可能成為2024駭客集團的首選武器。駭客集團只需成功攻擊一個漏洞,就能在雲端環境內迅速蔓延,並利用已感染的雲端原生工具攻擊更多受害者,造成的危害包括自動化收集企業機敏資料、建立龐大的幕後操縱伺服器通訊,甚至發動大規模分散式阻斷服務(DDos)攻擊。

趨勢科技發現,駭客使用生成式AI精進社交工程詐騙,生成更具吸引力的釣餌,提高得手機會,預期2024年駭客將結合聊天機器人和偽造語音等不同的AI工具,製造多重面向的威脅。

此外,大型語言模型可能遭遇「資料下毒(data poisoning)」,將成為新興威脅,駭客集團除了透過竄改學習資料操弄機器學習的表現與行為外,還可以入侵模型的資料儲存或流程架構,可能導致自然語言處理模型洩漏機密資料。

趨勢科技核心技術部資深協理張裕敏建議,企業應導入零信任策略,採用整合式資安平台來管理日漸增多的工作負載與防禦措施,並持續強化供應鏈安全,透過有效的資安風險管理及防禦策略,才能提升營運韌性。(編輯:張良知)1121211

新聞來源:中央社



新聞關鍵字

加入Line好友