ChatGPT正在風(fēng)靡互聯(lián)網(wǎng)。人工智能不僅引起了商界的注意，而且還導(dǎo)致了類似服務(wù)的出現(xiàn)。我們最近與大家分享了微軟在OpenAI上投資10億美元的消息，百度正在開發(fā)競爭對手的AI。但并不是每個(gè)人都像微軟一樣對ChatGPT感到滿意。不幸的是，僅僅在兩個(gè)月內(nèi)，互聯(lián)網(wǎng)上就充斥著人工智能生成的內(nèi)容。為了解決這個(gè)問題，OpenAI發(fā)布了工具來檢測AI生成的文本，包括來自ChatGPT的文本。以下是詳細(xì)信息...
ChatGPT和AI生成的內(nèi)容在顯微鏡下與OpenAI的最新Launch
經(jīng)過幾個(gè)月的爭論和困惑，OpenAI發(fā)布了一個(gè)區(qū)分人類和人工智能編寫的文本的工具。該軟件可以檢測公司自己的ChatGPT和其他人工智能工具，是一個(gè)良好的開端，但還不夠。不幸的是，這個(gè)稱為“AI文本分類器”的工具的成功率約為26%。OpenAI也在其網(wǎng)站上指出了這個(gè)問題，將來可能會改進(jìn)該系統(tǒng)。
顯然，我們想嘗試有問題的工具并準(zhǔn)備了兩個(gè)文本。其中一個(gè)是由ChatGPT寫的，另一個(gè)是我寫的，他也是這篇文章的作者。不幸的是，結(jié)果并不完全符合我們的預(yù)期。兩篇文章都收到了警告“分類器認(rèn)為文本不清楚是否是人工智能生成的”。
OpenAI承認(rèn)誤差幅度，也對這個(gè)問題發(fā)出警告。該公司網(wǎng)站上寫的聲明如下：“我們對AI文本分類器的預(yù)期用途是促進(jìn)關(guān)于人類編寫的內(nèi)容和AI生成內(nèi)容之間區(qū)別的對話。在決定文檔是否是用人工智能生成的時(shí)，結(jié)果可能會有所幫助，但不應(yīng)該是唯一的證據(jù)。該模型是在來自各種來源的人類書面文本上進(jìn)行訓(xùn)練的，這些文本可能無法代表所有類型的人類書面文本。
“AI文本分類器”也有一些限制。當(dāng)前限制：
至少需要 1，000 個(gè)字符，大約 150 – 250 個(gè)單詞。
分類器并不總是準(zhǔn)確的;它可能會錯(cuò)誤地標(biāo)記 AI 生成的文本和人類編寫的文本。
可以輕松編輯AI生成的文本以避開分類器。
分類器可能會在兒童編寫的文本和非英語文本上出錯(cuò)，因?yàn)樗饕轻槍Τ扇司帉懙挠⒄Z內(nèi)容進(jìn)行訓(xùn)練的。