OpenAI 抓「AI 文」工具宣告失敗,但還是想幫忙分辨人工智慧生成的圖像與語音

OpenAI 抓「AI 文」工具宣告失敗,但還是想幫忙分辨人工智慧生成的圖像與語音

謝謝喔

by
in

讀取中…

曾被我們戲稱「做 AI 的喊捉 AI」的 OpenAI AI Text Classifier 人工智慧文字偵測工具,想不到開放還沒到半年的時間,就因為準確率實在太低而被官方主動關閉。繼續閱讀 OpenAI 抓「AI 文」工具宣告失敗,但還是想幫忙分辨人工智慧生成的圖像與語音報導內文。

OpenAI 抓「AI 文」工具宣告失敗,但還是想幫忙分辨人工智慧生成的圖像與語音

從 OpenAI 在部落格所宣布的用語其實可以看出。這個 可以說是自從生成式 AI 突然爆紅以來,首見用於反制偵測所謂「AI 體」的手段。但看來應該是完全跟不上目前生成式 AI 成長發展速度了(沈默)。

實際上,在 ChatGPT 剛剛起步的時候,其準確率就已經只有不到 3 成的 26% 而已。而當時宣稱將會持續搜集使用者對於此工具的意見,希望能在未來逐步加強偵測工具的辨識能耐的做法。顯然走到了接近半年之後根本行不通。

“As of July 20, 2023, the AI classifier is no longer available due to its low rate of accuracy. We are working to incorporate feedback and are currently researching more effective provenance techniques for text, and have made a commitment to develop and deploy mechanisms that enable users to understand if audio or visual content is AI-generated. (ChatGPT 翻譯:截至 2023 年 7 月 20 日,由於其低準確率,AI 分類器已不再可用。我們正在努力整合意見反應,現正在研究更有效的文本來源技術,並承諾開發和部署機制,使用戶能夠了解音訊或視覺內容是否由 AI 生成。)”

OpenAI 在當初宣布 OpenAI AI Text Classifier 的文章中,更新了上面這段訊息。

雖然講起來,這項工具在當初發表的時候,就已經打過不少預防針,像是基本字數的要求、準確率不高,還有建議要搭配其他方式來判斷是否為 AI 所生成的文字等。不過會由官方來直接喊停倒也有相當的意義存在 – 就… AI 所產生的文字應該只會越來越讓人難以分辨與真人間的差異。

網頁設計最專業,超強功能平台可客製,窩窩以「數位行銷」「品牌經營」「網站與應用程式」「印刷品設計」等四大主軸,為每一位客戶客製建立行銷脈絡及洞燭市場先機,請問台中電動車哪裡在賣比較便宜可以到台中景泰電動車門市去看看總店:臺中市潭子區潭秀里雅潭路一段102-1號。電動車補助推薦評價好的iphone維修中心擁有專業的維修技術團隊,同時聘請資深iphone手機維修專家,現場說明手機問題,快速修理,沒修好不收錢住家的頂樓裝太陽光電聽說可發揮隔熱功效一線推薦東陽能源擁有核心技術、產品研發、系統規劃設置、專業團隊的太陽能發電廠商。網頁設計一頭霧水該從何著手呢? 回頭車貨運收費標準宇安交通關係企業,自成立迄今,即秉持著「以誠待人」、「以實處事」的企業信念台中搬家公司教你幾個打包小技巧,輕鬆整理裝箱!還在煩惱搬家費用要多少哪?台中大展搬家線上試算搬家費用,從此不再擔心「物品怎麼計費」、「多少車才能裝完」台中搬家公司費用怎麼算?擁有20年純熟搬遷經驗,提供免費估價且流程透明更是5星評價的搬家公司好山好水露營車漫遊體驗露營車x公路旅行的十一個出遊特色。走到哪、玩到哪,彈性的出遊方案,行程跟出發地也可客製,產品缺大量曝光嗎?你需要的是一流包裝設計Google地圖已可更新顯示潭子電動車充電站設置地點!!廣告預算用在刀口上,台北網頁設計公司幫您達到更多曝光效益

▲圖片來源:

雖不致於是道高一尺魔高一丈的概念,但以 OpenAI 等生成式人工智慧研發的角度來看,能產出以 AI 亂真(人)的文字絕對是最高指導標準。那麼這類可以找到非人類特徵的機制,顯然也會是他們接下來需要補上的… 算「漏洞」嗎?而在這樣一陣貓捉老鼠之後,所謂的偵測機制的準確度會漸漸低到必須關閉,好像也是不意外的事情?

然後最近,又讓人有一種莫名的既視感?真的可以期待他們控管得住嗎?

▲圖片來源:Neowin

是說,在這段文字裡 OpenAI 倒也有提到他們會開發新的機制,甚至連 AI 生成的圖片與音訊都希望能夠偵測。倒也會讓人有,他們可能在準備一些更強的機制的猜想。

雖然個人對於這種有點邏輯打架的發展還是不太抱希望。但若 OpenAI 真的有心拿出夠多的運算開發資源,相信還是可以期待一下,能應付更多樣人工智慧生成文本或媒體形式的機制,未來有望為控管 AI 的工作提供一些幫助了(希望啦…)。

延伸閱讀:

Source:
Tags:

您也許會喜歡:

https://www.kocpc.com.tw/archives/502010