ChatGPT開發公司釋軟體工具 可辨識AI生成文字

中央社

(中央社紐約1日綜合外電報導)打造熱門AI聊天機器人ChatGTP的開發公司OpenAI今天在部落格貼文說,已釋出軟體工具,能辨別文字是否由人工智慧(AI)生成。

路透社報導,ChatGP是一種免費程式,可依提示字元生成文字,包括文章、散文、笑話甚至詩歌,自去年11月推出以來廣受歡迎,但也引發對版權和剽竊的憂心。

OpenAI表示,今天這個AI分類器,目的是分辨以人工智慧撰寫的文本。這個語言模型是以人類和人工智慧針對相同主題所撰寫及生成的文字組資料加以訓練,使用多種來源,以處理自動生成的假消息,以及學術抄襲等問題。

這個程式仍是公開測試版本,OpenAI坦承針對1000字以下的文章仍十分不可靠,且人工智慧生成的文本,可經過編輯來騙過偵測。

OpenAI說:「我們正在公開這個分類器以取得相關反饋,了解像這樣不完美的工具是否實用。」

「我們知道,教育工作者一直在討論的一個重點,就是要辨識人工智慧生成文字,而同樣重要的是,了解人工智慧生成文字分類器在課堂上的局限和影響。」

ChatGPT去年11月推出後吸引數以百萬計用戶,因為擔心學生會用來作弊或抄襲,包括紐約市等美國一些最大學區已禁止使用這個AI聊天機器人。

其他人也曾推出包括GPTZeroX在內的第三方偵測工具,以協助教育工作者偵測AI生成的文字。

OpenAI表示正在與教育工作者合作,討論ChatGPT的功能和局限性,並將繼續致力於檢測AI生成的文字。(譯者:鄭詩韻/核稿:徐睿承)1120201

新聞來源:中央社



新聞關鍵字

加入Line好友