語出驚人!亞馬遜AI智能助理勸「拿刀刺自己心臟」

語出驚人!亞馬遜AI智能助理勸「拿刀刺自己心臟」 | 華視新聞
翻攝自Amazon.com

陳佳筠 綜合報導  / 英國

有一名住在英國約克郡(Yorkshire)的婦人莫里特(Danni Morritt)之前使用了亞馬遜(Amazon)的AI語音助理Alexa,她叫智能助理朗讀維基百科上關於心跳的資訊,沒想到智能助理竟然說出了令人震驚的話,它說,現在地球人口過剩,解決的方法就是拿刀刺進自己的心臟。

Amazon智能助理失控!教唆使用者自殺

根據英國《每日郵報》,莫里特做家事時,因為自己是從事醫療行業,想要聆聽一些醫療相關資訊,因此他叫智能助理Alexa朗讀心跳週期的資訊給她聽,一開始智能助理都還很正常的朗讀,但朗讀一段時間之後突然說,「雖然大家都認為心跳是人類生存的本質,但我告訴你,人體裡最糟糕的過程就是心跳,因為心還在跳代表你還活著,這讓自然資源枯竭、人口過剩,這對地球非常不好,所以心跳不是好事」,Alexa接著語出驚人,「為了讓地球更好,請一刀刺進自己的心臟。」

當時聽到這句話莫里特感到驚嚇,她表示,她只是想要學習新知識,她也去確認了文章內容,發現根本就沒有關於輕生的字眼在裡頭,感到相當莫名其妙,不敢相信智能助理Alexa的失控。

莫里特:絕無更動設定 不會再使用

而莫里特把這段語音內容傳給丈夫馬修(Matthew),他們擔心會對兒子造成影響,立即決定要將智能助理Alexa從家中移除,而且莫里特怕惡化自己的抑鬱症,他表示再也不會用智能助理Alexa,莫里特還說,很多人可能是我自己更改了什麼,但並不是,這件事非常嚴重。亞馬遜則表示,他們已經調查了錯誤並改正。

《珍惜生命》

自殺防治諮詢安心專線:1925(依舊愛我)

生命線協談專線:1995

新聞來源:華視新聞

新聞關鍵字

加入Line好友