陳沿佐 採訪/撰稿 柯冠丞 攝影/剪輯 / 台北市
凡事一體兩面，科技能讓社會進步，卻也可能使得犯罪更為猖獗。您曾經在網路平台看過標榜高獲利，邀請群眾免費加入群組，這樣的廣告嗎？小心，這可能是來自機器人帳號，以AI自動投放的詐騙廣告訊息。AI技術日新月異，短短5秒鐘，就能生成一則詐騙廣告文宣，大量以假亂真、假冒名人，謊稱投資的假訊息四處流竄，嚴重衝擊社會安定。2024年，數位發展部啟動智慧打詐計畫，以AI技術對抗AI詐騙，過去人工判定一則詐騙廣告，至少需要半個月的時間，如今平均不到兩天，詐騙訊息就會被下架，網路上偽冒金融投資的廣告，也從最高的7萬9千多則，減少至1萬4千多則。不過另一方面，Deepfake深偽技術，也遭到詐騙集團濫用，讓犯罪更加真假難辨。民眾該如何識別與自保？帶您一起來看。
這是一場AI對抗AI的反詐騙戰爭，他是國家資通安全研究院的打詐專家江禹賢。2024年1月，他和一群夥伴透過AI技術，分析超過500萬筆詐騙廣告，運用大數據分析，在各大網路平台，掃蕩同樣由AI生成的詐騙訊息。
資安院前瞻研究籌獲中心經理江禹賢說：「這個是我們的AI偵測系統，在這個系統裡面呢，我們可以有效地去偵測出，現在有哪些人，大量地被詐騙廣告冒用。」
免費、飆股、加入群組一對一線上服務，五花八門的投資廣告，字字句句說得動聽。但這些字眼，在資安院詐騙情資資料庫中，全被判定為高風險關鍵字，遭到AI偵測下架的詐騙訊息，一天高達5千到1萬筆。江禹賢說：「從公開平台拉到線下平台的流程，就會被我們識別為是高風險的。」
資安院追查發現，截至2024年7月，曾經投放過詐騙廣告的粉專，約有1萬6千個。從其中1千個帳號進一步分析，揪出具有類似特徵，但尚未投放過詐騙廣告的帳號數量高達10萬，進而推估出藏身幕後的詐騙機器人帳號，恐怕超過百萬大軍。
江禹賢說：「科技公司它在5月25號那天，股價飆漲了24%，所以黃仁勳這個名字，第一次出現股價相關的新聞上面，實際上隔了兩天之後，黃仁勳的名字，就出現在大量的社群詐騙廣告上面。我們也發現，其實在(5月)24號到25號之間，他在社群平台上面的聲量，已經翻了3倍。如果我們可以及早透過身分識別，識別出他的名字，跟詐騙常用的關鍵字有相關，而且它的成長幅度，是非常大的時候，我們就更有機會，做到早期的偵測預警。」
您知道透過AI技術，生成一則詐騙廣告文宣，需要多久時間嗎？答案是5秒鐘，假如附加圖片，也只要15秒。生成式AI，讓詐騙廣告投放，進階為「自動化經營」，假訊息無時無刻四處流竄，向各大網路平台大舉入侵。
新聞片段(2024.7.22)說：「社群平台冒名粉專，貼出台積電創辦人張忠謀，以及台積電慈善基金會董事長張淑芬的合影，用張淑芬的名義，邀請民眾加入投資社群。」新聞片段(2024.7.21)說：「從臉書上輸入關鍵字，台積電董事長魏哲家，就會跑出不少粉絲專頁。」
究竟民眾是如何一步步，踏入詐騙陷阱？數位發展部發現，絕大多數的詐騙集團，先利用開放式社群平台，以AI投放大量詐騙廣告，以種種誘因，吸引群眾加入封閉式群組，再透過一對一私訊，說服民眾匯款，等受害者驚覺有異，詐騙集團早已洗錢逃逸。但封閉性群組及通訊軟體私訊，都是公權力難以及時伸張的灰色地帶，想有效打擊詐騙，必須從源頭防治。
數位發展部政務次長林宜敬說：「現在數位發展部，開發了一個網路詐騙通報查詢網，這是一個APP，利用AI還有程式，加上人工做最後的確認。這些名人的詐騙，我們就直接跟這些名人確認，會馬上去通知社群平台，廣告平台，要求他們立即把詐騙訊息下架。」
過去仰賴人工，得花上半個月公文往返，確認屬實才能下架詐騙廣告，如今借重AI，兩天之內就能完成。2024年5月，網路平台假冒金融投資的廣告，光是一週就高達7萬9千多筆，8月時降至不到2萬筆，假冒名人的訊息也少了8成，從4萬1千多則，縮減為7448則。
林宜敬說：「我們這邊有很多的高手，利用AI的方式，去研究怎樣識別詐騙，怎樣防堵詐騙，但是很不幸的，這些詐騙集團也有他們的研發團隊。打詐是好人跟壞人之間不斷地攻防，所以我們一定要用科技對抗科技詐騙，一定要用AI對抗AI詐騙。」
科技日新月異，AI詐騙風險，可能比你我想像中更加危急。2024年5月，新北市淡水區崁頂里里長吳庭岳，收到一則手機陌生訊息，內容令他非常震驚。新北市淡水區崁頂里里長吳庭岳說：「影片內容是一個男生跟一個女生，很明顯地在做那個事情，基本上那個頭像是我的照片。而且他上面寫的內容是說，有一個視頻，如果你不處理的話，那他就會把你放到各大媒體去推播。」
曾經從事警務工作5年的吳庭岳，收到訊息後，一度不知所措，但他冷靜下來，發現恐嚇訊息中，暗藏AI後製加工過的痕跡。吳庭岳說：「他所寫的字句，像什麼視頻，然後速度與我聯繫，這聽起來都感覺不像台灣人所講的話，感覺說不定是AI寫的。第一時間看到頭像是你自己的時候，你其實也會覺得非常地惶恐，因為就是自己也不算是特別有名的人物，可是卻被詐騙分子盯上。或許是我們的資料，都公開在區公所的網站上面，所以讓他們有機可乘，然後去做這樣的事情。」
事後吳庭岳將受害經過PO上網，這才發現受害里長不只他一人。一旦公眾人物公開資料，被詐騙集團盯上，加上AI技術推波助瀾，對治安造成的危害難以想像。
記者陳沿佐說：「根據網路一項調查，有71%的民眾，對Deepfake深偽技術，抱持著不信任感。最主要就是因為Deepfake這項技術，經常被用於詐騙用途，究竟Deepfake可以做到哪些事情呢，我們現在就來實際測試。」
打開區公所網站搜尋里長照片，進入AI換臉網頁上傳素材，短短不到10秒鐘，變造合成的照片就能輕鬆完成。AI不只能夠盜用你的容貌，還能仿造所有人的聲音，只要你手中握有某人的一段錄音，再上傳網路聲音合成器，就能利用對方的聲音，說出他從未說過的話。最可怕的是這些深偽軟體，在網路上就能免費使用，水能載舟亦能覆舟，怎麼利用，全看人心。
內政部警政署刑事局預防科警務正李琦美說：「科技的發展真的太快了，眼見真的不一定為憑，民眾其實要有零信任的觀念，只要提到錢提到帳戶，警戒的雷達一定要打開，一定要多加地查證。」
當眼見不一定為憑，耳聽不一定為真，深偽內容氾濫，正悄悄在台灣掀起一場科技犯罪風暴。AI生成畫面或許真假難辨，但科技公司，透過影像雜訊分析及色彩偵測技術，抽絲剝繭找出破綻。科技公司行銷部資深經理朱芳薇說：「換臉過程中，如果你的動作大一點，他可能會破圖或是解析度變差，甚至是光源變得不同不自然，或是膚色不自然等等。它原本是方便讓一般的民眾，可以用更有趣的方式做一些視訊對談，但是當這些全新的技術，在詐騙集團手中，就會變成是攻擊他人的一個工具。」
當原本立意良善的科技，成為詐騙集團的犯罪工具，民眾該如何自保？元智大學資訊傳播學系助理教授葉志良說：「在照片上面做一些浮水印，或是做一些符號的加註，其實都是有助於未來辨識這個詐騙，到底是不是深偽很好的工具。我們通常對詐騙集團，都採取事後怎麼去減少損失，一般人來講，我們如果碰到連自己，第一時間都覺得有點懷疑的時候，其實不要急著做任何的決定，當然如果是要訴請損害賠償也是可以，不過前提都是要保全證據。」
AI技術發展，對全球及社會，帶來前所未有的衝擊，個資保護就顯得格外重要。歐盟早在2016年，通過一般個人保護規則，簡稱為GDPR，要求企業設立隱私長，若發生個資外洩事件，需在72小時內，通知資料當事人並通報主管機關，將資料保護視為企業責任。
同時，2024年8月，全球第一部監管人工智慧的法案，歐盟的人工智慧法正式生效，其中以深偽技術製作的內容，必須明確標註，期盼遏止AI騙局。葉志良說：「過去國內沒有這樣獨立的機關，變成企業要通報這件事情，不曉得要通報誰，這些都是跟進歐盟的規範過來，我覺得是這部分是可以學習。」
當科技被濫用，社會信任被攻陷，AI詐騙與AI打詐間的對決，將是一場矛與盾的艱難戰役。政府健全法制、企業自主管理、民眾加強防詐意識，都是必要解方，缺一不可。翻轉詐騙之島，台灣，還有許多挑戰與難題，仍需繼續努力。
新聞來源：華視新聞
讀者迴響