川普被捕、蒲亭繫獄?AI生成圖像恐助長假新聞氾濫

中央社

(中央社紐約23日綜合外電報導)「一隊紐約警察當街捉拿美國前總統川普、俄羅斯總統蒲亭身陷囹圄」等高度細膩卻聳人聽聞圖像近日淹沒社群平台。專家警告,這種AI生成圖像恐讓社會「在關鍵時刻虛實難辨」。

美聯社報導,川普恐面臨刑事指控,以及國際刑事法院(ICC)對蒲亭(Vladimir Putin)發出逮捕令的新聞受到關注之際,上述圖像這幾天已經淹沒推特和其他平台,不過兩組照片都不是真的。

這些圖像以及社群媒體上隨處可見的諸多類似圖像,都是日益精巧普及的人工智慧(AI)圖像生成器的傑作。

假新聞專家警告,這是「社群媒體隨重大新聞事件起舞,颳起假圖、假影片歪風,導致社會在關鍵時刻虛實難辨」這個新現實的前兆。

西雅圖華盛頓大學(University of Washington)專研假新聞散播的教授威斯特(Jevin West)說:「這確實會在危機事件發生時增添雜音,讓人開始對體制和接獲的訊息失去信賴。」

儘管修圖、製造假圖不是新鮮事,Midjourney、DALL-E和其他AI圖像生成器工具更容易使用,只要提供簡單文字提示,就可以迅速、大規模生成這樣的逼真圖像。

最近一些圖像出自Midjourney本月推出的新版文生圖(text-to-image)合成模式,可以產生酷似通訊社新聞照片的圖像,說服力十足。

推特上有個被人廣傳的推文串,是總部設在荷蘭的事實查核團體「冒險者」(Bellingcat)創辦人希金斯(Eliot Higgins)運用最新生成圖樣工具變出的許多富戲劇張力川普被捕假圖。內容是一隊制服員警抓捕這位共和黨籍億萬富豪美國前總統,毫不客氣地在人行道上拉扯,已經被轉推或按讚好幾萬次。

另一組蒲亭被捕、出庭、坐牢的圖像也是希金斯傑作,他說自己上傳這些圖沒有惡意,也言明在先那些圖片都是AI生成的。儘管如此,他表示,這些圖還是可能讓他被禁用Midjourney服務。Midjourney沒有回應置評請求。

希金斯在電郵中回覆美聯社說:「川普被捕圖真的就是不特意地證明了透過Midjourney展現真實場景,這麼做有好有壞。我在Midjourney輸入提示的時候先寫了一些場景描述,然後把它們串聯,完成了這個故事。」

他表示,細看就會發現這些圖根本不上完美,因為川普看起來很怪異,腰際還配戴警用皮帶,有的圖可以清楚看到他的臉和手已經變形。

不過非政府組織「見證」(Witness)媒體技術專家安倫(Shirin Anlen)表示,儘管希金斯或其他使用者表明貼圖由AI生成,而且只為博君一笑,但這樣還不夠。

她說,這些圖通常很快就就會被轉推,但是轉推內容不會註明那些關鍵文字。事實上,有人在Instagram分享了希金斯的一些貼圖,彷彿川普真的被捕,還得到超過7萬9000個讚。

安倫說:「人們相信有圖有真相,看到就以為眼見為憑了。」(譯者:何宏儒/核稿:戴雅真)1120324

新聞來源:中央社



新聞關鍵字

加入Line好友