歐警告ChatGPT風險 義禁聊天機器人Replika用個資

中央社

(中央社米蘭/布魯塞爾3日綜合外電報導)義大利今天以可能危害未成年與情緒脆弱人士為由,禁止美國聊天機器人Replika使用義大利用戶個資。歐洲聯盟(EU)產業主管也對聊天機器人ChatGPT的風險提出警告。

路透社報導,Replika是舊金山新創企業Luka在2017年推出利用人工智慧(AI)科技的一款聊天機器人,提供使用者客制化人形機器人,能對客戶說話及傾聽說話。

Replika先從英語人口當中流行,使用不須付費;公司則從販售語音聊天等額外功能獲得收入,目前月營收約200萬美元(約新台幣6000萬元)。

Replika宣傳成是「虛擬朋友」,聲稱可以改善使用者的情緒健康。但義大利監管機關資料保護局(Data Protection Agency)表示,Replika干預使用者的心情,「可能使得尚處發展階段或情緒處於脆弱狀態的個人,面臨的風險增加」。

義大利當局並指出,Replika沒有使用者的年齡驗證機制,例如針對未成年人的過濾器,或在使用者未明確通報年齡時能予以封鎖的裝置。

義大利資料保護局說,Replika違反了歐盟隱私法規,以違法方式處理個人資料。因為Replika無法依據未成年人無能力簽署的合約來處理個資,即使它未表明是這麼做。

根據聲明,義大利當局限時Luka在20天內通知已採取哪些措施來落實要求,否則可能面臨最高2000萬歐元(約新台幣6億4800萬元)罰款,或是其全球年營業額最高4%的罰款。

同一時間,歐盟執行委員會(European Commission)負責內部市場事務的執行委員布勒東(Thierry Breton)告訴路透社,新的人工智慧法規將鎖定處理ChatGPT相關風險的疑慮,並確保歐洲人可以信任AI科技。這是首度有歐盟高階官員對ChatGPT相關疑慮做出評論。

ChatGPT是由獲得微軟(Microsoft)支持的美國私人公司OpenAI開發,2022年11月底才開放給大眾免費使用。但根據瑞銀(UBS)引用市場分析公司Similarweb的資料所做研究,ChatGPT上線短短2個月,便已成為史上成長速度最快的消費者應用程式。

ChatGPT在接收到使用者提問時,可以產生文章、論說文、笑話甚至詩,來做出回應。

布勒東在提供給路透社的書面評論中表示,ChatGPT帶來的風險,凸顯人工智慧法規的迫切必要性。他已在2022年提出相關法案,盼為人工智慧科技規範訂定全球化標準。

包括智慧手機、自動駕駛車輛、網購及工廠等,都使用到AI科技。目前中國與美國在這項科技居領先地位。

布勒東說:「如同ChatGPT展現的例子,AI解決方案可為企業與民眾提供絕佳機會,但也可構成風險。這正是為何我們需要一個堅實的監管框架,以確保能有以高品質資料為基礎的可靠AI。」(譯者:張正芊)1120203

新聞來源:中央社



新聞關鍵字

加入Line好友