作者 | 黃金瓊
編輯 | 鄧詠儀
常言道，“一物降一物”，但對現(xiàn)在的生成式AI來說，事情也許很難如此。
據(jù)TechCrunch，OpenAI于7月20日悄悄下架了其AI檢測器，但因為過于低調(diào)，不少人還沒有發(fā)現(xiàn)。
OpenAI的通知顯示，下架是因為檢測的準(zhǔn)確率過低。OpenAI團隊“會繼續(xù)研究更有效的文本技術(shù)”，希望未來能夠?qū)I生成的音頻、視頻內(nèi)容進(jìn)行檢測。
ChatGPT爆火以來，AI生成文本在各行各業(yè)得到了更廣泛的應(yīng)用。但比起廣泛應(yīng)用，AI生成內(nèi)容引發(fā)了人們更大的擔(dān)憂——AI或許會成為更大的假新聞源頭、泄露人們數(shù)據(jù)和隱私。
AI生成內(nèi)容引發(fā)的現(xiàn)實問題也不絕于耳——典型案例是是在大學(xué)里，學(xué)生們用ChatGPT生成論文，已經(jīng)擾亂了學(xué)校的教學(xué)秩序，不少學(xué)校已經(jīng)明令禁止在學(xué)術(shù)場景下使用ChatGPT。
面對洶涌的輿論，OpenAI在今年2月就迅速推出應(yīng)對方案，也就是這款A(yù)I文本檢測器。
AI文本檢測器的主要功能，是用來判斷文本是否由人工智能生成。此前，在檢測過程中，用戶無需付費，只要將所檢測的文本復(fù)制到檢測器上，就可以檢查到內(nèi)容是否為AI生成。OpenAI也沒有限定可以檢測的文本限定類型，用戶可以檢測包括郵件、文章以及論文在內(nèi)的文件。
然而直到下架，這款產(chǎn)品壽命只有短短半年。
AI文本檢測器其實一開始就并不完美。據(jù)OpenAI公布的數(shù)據(jù)，AI檢測器在識別AI生成文本方面的正確率為26%，同時將人類所寫的內(nèi)容識別為AI生成的錯誤率為9%。
在發(fā)布檢測器時，OpenAI就表明“AI文本檢測器并不完全可靠”。同時，OpenAI團隊也承認(rèn)，檢測器很容易將人類寫的文本識別為AI寫的，AI生成的文本性內(nèi)容如果經(jīng)過人類編輯，AI也無法進(jìn)行準(zhǔn)確地識別。
OpenAI已經(jīng)大模型應(yīng)用中的技術(shù)領(lǐng)頭羊。如今AI檢測器的下架，某種程度上也意味著，人們現(xiàn)在可能還沒有更好的方式監(jiān)管AI。“用AI監(jiān)管AI”的路子，可能還不太能走通。
近期的一則斯坦福研究，也得出了同樣的結(jié)論。
數(shù)位斯坦福的專家教授對目前主流的七款A(yù)I文本檢測器進(jìn)行了測試，研究結(jié)果顯示，一些檢測器生成的99%的準(zhǔn)確率具有“誤導(dǎo)性”。非英語母語的人寫的文章，常被錯誤地標(biāo)識為由AI生成，這會嚴(yán)重影響母語非英語的使用者如學(xué)生、學(xué)者以及求職者，也會很容易增加他們被歧視的可能性。
