美婦人接女兒求救電話 竟是AI複製人聲詐騙

蔡欣辰 陳書杉 報導  / 美國

美國亞利桑那州一名母親今年年初接到一通電話,電話的另一頭傳來女兒的求救聲,接著有人聲稱綁架她的女兒並且要求贖金,不過幸好最後發現是一通詐騙電話。後來這位母親接受訪問,指出詐騙分子很可能是使用AI人工智能軟體,複製女兒的聲音進行詐騙,讓AI技術爭議再次浮上檯面。

美國接獲詐騙電話婦女德史蒂法諾說:「(電話那頭)說媽媽一邊抽泣,我說發生了什麼,她說媽媽我搞砸了,她說幫幫我媽媽幫我幫幫我。」母親接到女兒被綁架的求救電話好慌張,經過查證後才發現女兒人好端端的在滑雪,母親才驚覺自己遇到詐騙;但當時電話中的聲音和女兒一模一樣,因此母親認為詐騙分子是使用了AI科技,複製女兒哭喊求救的聲音。AI科技日新月異,你我最熟悉的就是在電影特效的運用,在賣座大片捍衛戰士獨行俠中劇組就使用了AI模擬人聲,仿造捍衛戰士演員的嗓音,電影捍衛戰士獨行俠:「海軍需要獨行俠。」而不只聲音,就連你現在看到的前美國總統歐巴馬AI也能精準模仿, AI虛擬人:「我們正在進入一個時代,在這個時代,我們的敵人可以讓我們在任何時候說任何事。」

不論是電影還是政治領域,AI科技不所不在,但盲目發展不當使用的話可能將構成犯罪或是造成道德上的疑慮。美國共和黨全國委員會AI生成影片:「官員們今天早上封鎖了舊金山市。」白宮近日宣布了第一個AI監管計劃,表示將撥款1.4億美元約42.8億新台幣,成立AI研究中心和擬訂指導方針草案,確保AI的使用符合美國人民的權利和安全。而美國副總統賀錦麗也和Google、微軟等執行長見面,表示這些AI科技巨擘們有責任讓社會免於AI構成的風險。

新聞來源:華視新聞



新聞關鍵字

加入Line好友