流行的聊天机器人 ChatGTP 的创建者 OpenAI 发布了一款软件工具,用于识别人工智能生成的文本,该公司周三在一篇博文中表示。
ChatGPT 是一款免费程序,可根据提示生成文本,包括文章、散文、笑话甚至诗歌,自去年 11 月首次亮相以来广受欢迎,同时引发了对版权和剽窃的担忧。
AI 分类器是一种语言模型,在同一主题的人工和 AI 文本对数据集上进行训练,旨在区分 AI 编写的文本。该公司表示,它使用各种供应商来解决自动错误信息活动和学术不诚实等问题。
在其公开测试版模式中,OpenAI 承认该检测工具对 1,000 个字符以下的文本非常不可靠,并且可以编辑 AI 编写的文本以欺骗分类器。
OpenAI 说:“我们正在公开这个分类器,以获取关于像这样的不完美工具是否有用的反馈。”
“我们认识到识别 AI 编写的文本一直是教育工作者讨论的一个重要问题,同样重要的是认识到 AI 生成的文本分类器在课堂上的局限性和影响。”
自从 ChatGPT 于 11 月首次亮相并在数百万用户中广受欢迎以来,包括纽约市在内的一些美国最大的学区已经禁止使用 AI 聊天机器人,因为担心学生会使用文本生成器作弊或剽窃。
其他人创建了包括 GPTZeroX 在内的第三方检测工具,以帮助教育工作者检测 AI 生成的文本。
OpenAI 表示正在与教育工作者合作,讨论 ChatGPT 的功能和局限性,并将继续致力于检测 AI 生成的文本。