一名起诉哥伦比亚航空公司 Avianca 的律师使用 ChatGPT 提交了一份由人工智能软件编造的完整案例摘要。
然而，对方律师在他的陈述中指出了虚假案件，美国地区法官凯文卡斯特尔证实，“提交的案件中有 6 个似乎是虚假的司法判决，带有虚假的引述和虚假的内部引文。”
Steven A Schwartz 提交了一份使用 OpenAI 的聊天机器人进行研究的宣誓书，并通过询问机器人是否在撒谎来验证案件。
该机器人已确认这些案件，但除了 Westlaw 和 LexisNexis 这两个网站外，未能提供验证来源。
对方律师很快指出这些案件是捏造的，其中大部分未经证实，还有一个日期有误。
施瓦茨说他“没有意识到它的内容可能是假的”。 他说，他“非常后悔利用生成人工智能来补充此处进行的法律研究，并且在没有绝对验证其真实性的情况下，将来永远不会这样做。”
该案例凸显了在没有交叉检查或验证信息的情况下使用 AI 聊天机器人进行专业研究的荒谬之处。
