OpenAI 的自动化人工智能聊天机器人 ChatGPT 席卷了互联网,但同时也带来了一些问题。随着作家、程序员、营销人员以及其他人似乎都在使用 ChatGPT 生成内容,世界各地的公司都在关注人工智能生成内容的海啸。
随着 ChatGPT 及其输出不断出现抄袭和被盗内容问题,OpenAI 现在发布了一款新的 GPT 分类器,该工具旨在检测和披露您正在阅读的文本是否是 ChatGPT 或其其他 GPT 的作品工具。
OpenAI 推出 GPT 分类器来帮助检查 AI 编写的文本
OpenAI 宣布这一消息之际,正值对人工智能写作和人工智能生成文本的审查不断加强,以及各公司整合 ChatGPT 输出之际。
新的 GPT 分类器试图弄清楚给定的文本片段是人类编写的还是人工智能生成器的作品。虽然 ChatGPT 和其他 GPT 模型在各种文本输入方式上进行了广泛的训练,但 GPT 分类器工具“在同一主题的人类编写文本和人工智能编写文本对的数据集上进行了微调”。
因此,GPT 分类器不是收集信息并重新创建其最佳近似值,而是尝试比较已知的人类文本和已知的人工智能文本之间的相似性,以找到揭示源作者的差异。
GPT-Classifier 的检测目前有限
虽然轻松识别人工智能生成的文本的想法对编辑和教育工作者来说是美妙的,但 OpenAI 警告说,它的“分类器并不完全可靠”。
目前,GPT 分类器“正确识别了 26% 的人工智能编写的文本”,同时将 9% 的人类文本标记为人工智能编写的。 OpenAI 还指出,该工具的准确性“通常会随着输入文本长度的增加而提高”。
对 GPT 分类器的粗略测试发现了一个人类生成的示例,并将其标记为“非常不可能是人工智能生成的”,并且还正确地表明 ChatGPT 生成的关于 USB 问题的片段“可能是人工智能生成的”。
ChatGPT 检测需求旺盛
尽管 GPT 分类器存在局限性,但出于对可靠 ChatGPT 检测的需求,许多人可能会转向该工具。 OpenAI 致力于构建和发布免费的 GPT 检测工具非常重要,因为随着越来越多的学生、作家、程序员和其他人使用 AI 文本生成工具,理解和检测此输入将变得至关重要。
目前,尽管 GPT-Classifier 已启动并运行并可用于测试,但最好对其标签持保留态度。