人工智慧加持 "深假"比假新聞還可怕

房業涵 黃建熒 報導  / 台北市

假新聞已經過時了?現在,我們有個「深假」麻煩!英文叫做「DEEP FAKES」,他們刪除或扭曲關鍵事實,創造假新聞,或是政治人物、沒講過的話,現在也能塞到他們嘴裡,看起來就像他們說的,其實這是靠人工智慧做出來的!我們能對抗「深假」嗎?如何避免資訊操縱者惡意破壞選舉?

紐約華盛頓街頭挺韓看板景象,國旗飄揚,韓粉宣稱美國紐約、華盛頓街頭,支持者掛上高雄市長韓國瑜的巨幅廣告看板,但這其實就是移花接木的假訊息。攝影老師指出,該圖片線條不對稱、光線也有問題,這種假訊息可從周邊線條看出端倪。而另一張,韓國瑜力挺的「力」字繞過紅綠燈,沒有去背乾淨,下面的人頭也被切掉,仔細分辨就看得出來。

攝影專家表示,現在的合成網站非常方便,只要把挑選好照片上傳、合成就可以輕鬆完成,假照片就是這樣誕生的,專家輕輕鬆鬆示範把華視LOGO放在紐約街頭。合成照片逃不過專家的眼睛,不過更高一階就是詐術剪輯,蔡英文去年出席忠烈祠秋祭,網友剪接她抿嘴的畫面,製造祭拜烈士吐口水的惡劣印象,詐術剪輯只要放慢動作就可以看得出來端倪,但是最可怕的是這種深假新聞!

歐巴馬說,川普是個徹頭徹尾的笨蛋,這支影片主角確實是歐巴馬,但他並未參與錄製,更沒罵川普笨蛋,全部都是導演喬登皮爾合成的,他強調這是自己用人工智慧技術改造的。政治人物沒講過的話,現在也能塞到他們嘴裡,原本是用在拍攝電影,卻可能變成惡劣選舉操作。

中央大學資訊工程學系教授 蘇木春::「產生Deep Fakes(深假訊息)這個影片,首先你總共要有四個資料集,第一個偽造的影片就是說,你現在想要偽造他歐巴馬的那段影片,你先要有這段影片,再來第二個就是人像的資料夾,歐巴馬你要各種不同角度的人像,第三個、聲音要像,第四個、很重要不只是聲音,還要嘴唇的同步。」

中央大學資訊工程學系教授 蘇木春:「(影像)如果會產生長時間不眨眼,或是眨眼的不自然的,那就是深度偽造出來的。」

現在台灣雖然尚未應用在選舉,美國預測很有可能出現在2020美國大選,深假議題也衍生三大麻煩,一是社群平台是否有權刪除?二是誰來判準,而不傷害言論自由?三是若是由法院決定,會不會緩不濟急?

中央大學資訊工程學系教授 蘇木春:「以社群媒體來講,除非有人檢舉說這是偽造的影片,那社群媒體可能就可以下架,但他沒辦法主動去偵測,因為非常的耗成本而且技術可行性,即使他可以做95%的正確性,你想想看5%,每天上傳的照片影片那麼多,還是有漏網之魚,這問題非常的棘手。」

教授持悲觀態度,表示雖然現在法國有,但是台灣尚未有準則,而且你推出相關的辨識軟體還是有可能被立刻修正,再推出假影片。

人類的好奇心,是文明推進器,卻也是社會破壞狂,收到影片時,身為閱聽眾一定要查證,不隨意轉傳,科技倫理是現在最重要的議題之一,若無倫理,只講科技,深假勢必接下來選舉最大傳播危機。

新聞來源:華視新聞

新聞關鍵字

加入Line好友