創(chuàng)建ChatGPT的公司OpenAI開發(fā)了一種“分類器”工具，可以識別AI編寫的內(nèi)容，但警告說不應(yīng)該依賴它。

ChatGPT對各種問題做出回答的能力讓老師們擔(dān)心學(xué)生可能會(huì)將人工智能生成的論文和作業(yè)當(dāng)作自己的。

OpenAI的這個(gè)新分類器有可能通過自動(dòng)識別AI生成的論文和任務(wù)來徹底改變教育部門。限制其使用的可能替代解決方案，就像紐約市學(xué)校最近所做的那樣。ChatGPT已被澳大利亞教育機(jī)構(gòu)禁止。

因?yàn)樗陌嬷鞅挥袝r(shí)正確的回復(fù)淹沒了ChatGPT問題，開發(fā)者問答網(wǎng)站Stack Overflow禁止了他們。分類器可能有助于像Stack Overflow這樣的組織。

OpenAI聲稱很難正確識別AI生成的所有文本，并且分類器具有各種限制，降低了其實(shí)用性。

分類器的真正陽性率為 26%(它將 AI 編寫的文本正確分類為“可能是 AI 編寫”的次數(shù)百分比)。在 9% 的情況下，它會(huì)錯(cuò)誤地將人工創(chuàng)作的內(nèi)容檢測為由 AI 生成。從本質(zhì)上講，無論哪種方式，它都有相當(dāng)大的概率錯(cuò)誤標(biāo)記文本，并且很有可能丟失由未顯示它是由AI創(chuàng)建的人類提供的內(nèi)容。然而，該報(bào)告稱，分類器“對來自更現(xiàn)代人工智能系統(tǒng)的文本更準(zhǔn)確”，而不是以前使用的基于 GPT-2 的檢測器。

OpenAI在一份新聞稿中表示，它預(yù)計(jì)該工具將“開始討論AI素養(yǎng)”，并且它正在公開分類器，以便獲得有關(guān)像這樣的有缺陷的工具是否有益的意見。

在這里，您可以訪問免費(fèi)的在線分類工具。用戶只需將復(fù)制的內(nèi)容粘貼到文本字段中，然后單擊“提交”即可使用它。它將確定文本是否“極不可能”、“不太可能”、“不清楚它是否”、“可能”或“可能”是由人工智能創(chuàng)建的。

分類器所需的最小輸入長度為 1，000 個(gè)字符(約 150-250 個(gè)句子)。OpenAI警告說，改變AI生成的文本來欺騙檢測系統(tǒng)很簡單。此外，該工具主要針對成年人制作的英語材料進(jìn)行培訓(xùn)，使其更容易錯(cuò)誤地標(biāo)記年輕人和非英語語言撰寫的文學(xué)作品。

當(dāng)被問及分類器識別與人類作家一起創(chuàng)建的文本的能力時(shí)，OpenAI承認(rèn)它“沒有正確檢查分類器的性能”。

說明警告說，該軟件“不應(yīng)用作主要決策工具”，而是作為追蹤給定文本起源的其他技術(shù)的補(bǔ)充。