周二,ChatGPT 机器人的创造者因其模仿人类写作的能力而引起轰动,发布了一种工具,旨在检测书面作品何时由人工智能创作。
该公告发布之际,美国和世界各地的学校和大学都在激烈辩论,担心该软件可能被用来帮助学生完成作业并帮助他们在考试中作弊。
总部位于美国的 OpenAI 在周二的一篇博客文章中表示,其检测工具已经过训练,可以“区分人类编写的文本和来自各种供应商的人工智能编写的文本”。
来自 OpenAI 的机器人最近收到了微软的巨额注资,它使用受互联网收集数据启发的大量文本来响应简单的提示。
OpenAI 警告说,它的工具可能会出错,尤其是对于包含少于 1,000 个字符的文本。
OpenAI 在帖子中说:“虽然不可能可靠地检测到所有 AI 编写的文本,但我们相信好的分类器可以为缓解 AI 生成的文本是由人类编写的虚假声明提供信息。”
“例如,运行自动错误信息活动,使用 AI 工具进行学术不诚实,以及将 AI 聊天机器人定位为人类。”
法国一所顶尖大学上周禁止学生使用 ChatGPT 完成作业,这在该国的大学中尚属首次。
该决定是在有消息称 ChatGPT 在撰写了从宪法到税收等主题的论文后通过了美国法学院的考试后不久作出的。
ChatGPT 仍然犯了事实性错误,但教育机构已匆忙禁止该 AI 工具。
“我们认识到识别 AI 编写的文本一直是教育工作者讨论的一个重要问题,同样重要的是认识到 AI 生成的文本分类器在课堂上的局限性和影响,”OpenAI 在帖子中说。
“我们正在与美国的教育工作者合作,了解他们在课堂上看到的内容,并讨论 ChatGPT 的功能和局限性。”
纽约和其他司法管辖区的官员禁止在学校使用它。
一群澳大利亚大学表示,他们将改变考试形式以消除人工智能工具并将其视为作弊