導讀 從ChatGPT及其競爭對手推出以來，人們對AI聊天機器人的看法一直存在分歧。雖然有些人認為這既重要又省時，但其他一些人擔心人們使用人工智
從ChatGPT及其競爭對手推出以來，人們對AI聊天機器人的看法一直存在分歧。雖然有些人認為這既重要又省時，但其他一些人擔心人們使用人工智能傳播錯誤信息和抄襲作品。OpenAI是病毒式AI機器人ChatGPT和文本到圖像生成器DALL-E背后的公司，它發(fā)布了一種新的AI分類器工具來識別AI編寫的文本。在官方新聞稿中，OpenAI詳細介紹了分類器的訓練方式，其局限性和其他指標。查看以下所有詳細信息。
OpenAI 的分類器將 AI 文本與人類書寫區(qū)分開來
在最近的一份新聞稿中，該公司詳細介紹了這種新的AI分類器工具如何幫助人們識別AI文本。該工具通過接收來自用戶的輸入，然后通過其訓練的數(shù)據(jù)運行它以將其分類為 AI 或人工生成的內(nèi)容來做到這一點。
AI 分類器是一種語言模型，已在數(shù)據(jù)集上進行訓練，該數(shù)據(jù)集包含同一主題的人類和 AI 編寫的文本對。OpenAI指出，人類數(shù)據(jù)是從他們認為由人類編寫的各種來源收集的。此文本已分為提示和響應，根據(jù)這些提示和響應生成 AI 文本以收集完整的數(shù)據(jù)集。
AI 分類器尚不完全可靠
雖然新工具旨在簡化我們的生活(尤其是教師和教授)，但該公司明確表示，人工智能分類器并不完全可靠，容易出錯。在公司的內(nèi)部評估中，分類員正確地將26%的AI編寫的文本識別為“可能是AI編寫的”。
它進一步錯誤地將9%的人類文本識別為AI編寫的。雖然誤差幅度相當?shù)停苊黠@分類器并非萬無一失。此外，OpenAI提到它在1個字符以下的短文本上是不可靠的。