“人工智能教父”退出谷歌以警告该技术的危险

据美国媒体周一报道，一位常被称为“人工智能教父”的计算机科学家辞去了在谷歌的工作，公开谈论这项技术的危险。 为 AI 系统创建基础技术的杰弗里·辛顿 (Geoffrey Hinton) 告诉《纽约时报》，该领域取得的进步“对社会和人类构成了深远的风险”。 “看看五年前的情况和现在的情况，”他在周一发表的文章中引述道。 “取差值，向前传播，太可怕了。” Hinton 表示，科技巨头之间的竞争正在推动公司以危险的速度发布新的 AI 技术，危及工作并传播错误信息。 “很难看出你如何才能阻止坏人利用它来做坏事，”他告诉纽约时报。 2022 年，Google 和 OpenAI（流行的人工智能聊天机器人 ChatGPT 背后的初创公司）开始使用比以前大得多的数据构建系统。 欣顿告诉泰晤士报，他认为这些系统在某些方面正在超越人类智能，因为它们正在分析的数据量很大。 “也许这些系统中发生的事情实际上比大脑中发生的事情要好得多，”他告诉该报。 虽然人工智能已被用于支持人类工作者，但像 ChatGPT 这样的聊天机器人的快速扩张可能会使工作面临风险。 人工智能“带走了苦差事”，但“带走的可能不止于此”，他告诉时代周刊。 这位科学家还警告说，人工智能可能会传播错误信息，他告诉《纽约时报》，普通人将“无法再知道什么是真实的”。 据《泰晤士报》报道，欣顿上个月通知谷歌辞职。 谷歌 AI 的首席科学家 Jeff Dean 在给美国媒体的一份声明中对 Hinton 表示感谢。 声明补充说：“作为首批发布 AI 原则的公司之一，我们仍然致力于对 AI 采取负责任的态度。” “我们不断学习了解新出现的风险，同时也大胆创新。” 3 月，科技亿万富翁埃隆马斯克和一系列专家呼吁暂停人工智能系统的开发，以便有时间确保它们的安全。 一封由包括马斯克和苹果联合创始人史蒂夫沃兹尼亚克在内的 1,000 多人签署的公开信是由 GPT-4 的发布引发的，GPT-4 是 ChatGPT 使用的技术的更强大版本。 欣顿当时没有在这封信上签名，但他告诉纽约时报，科学家们不应该“进一步扩大规模，直到他们了解他们是否能够控制它。”