亿万富翁商人埃隆·马斯克 (Elon Musk) 和一系列科技领袖周三呼吁暂停开发强大的人工智能 (AI) 系统，以便有时间确保它们的安全。
迄今为止，包括马斯克和苹果联合创始人史蒂夫沃兹尼亚克在内的 1000 多人签署了一封公开信，是对旧金山初创公司 OpenAI 最近发布的 GPT-4 的回应，GPT-4 是其广泛使用的人工智能聊天机器人 ChatGPT 的更先进的继任者，帮助引发了科技巨头微软和谷歌之间的竞赛，以推出类似的应用程序。
该公司表示，其最新型号比之前的版本强大得多，之前的版本用于驱动 ChatGPT，这是一种能够根据最简短的提示生成大段文本的机器人。
“具有人类竞争智能的人工智能系统可能对社会和人类构成深远的风险，”这封题为“暂停巨型人工智能实验”的公开信说。
“只有当我们确信它们的影响是积极的并且它们的风险是可控的时候，才应该开发强大的人工智能系统，”它说。
马斯克是 OpenAI 的初始投资者，并在其董事会任职多年。他的汽车公司特斯拉开发了人工智能系统，以帮助推动其自动驾驶技术以及其他应用。
这封信由马斯克资助的未来生命研究所主办，由知名批评家以及 OpenAI 的竞争对手（如 Stability AI 负责人 Emad Mostaque）签署。
许多政府已经在努力规范高风险的人工智能工具。英国周三发布了一份概述其做法的文件，称其“将避免可能扼杀创新的严厉立法”。欧盟 27 国的立法者一直在谈判通过全面的 AI 规则。
“值得信赖和忠诚”
这封信引用了 OpenAI 创始人山姆奥特曼 (Sam Altman) 撰写的博客，他建议“在某些时候，在开始训练未来系统之前获得独立审查可能很重要”。
“我们同意。那就是现在，”公开信的作者写道。
“因此，我们呼吁所有人工智能实验室立即暂停对比 GPT-4 更强大的人工智能系统的训练至少六个月。”
如果公司不同意，他们呼吁政府介入并暂停。
这六个月应该用于开发安全协议、人工智能治理系统，并重新关注研究以确保人工智能系统更加准确、安全、“值得信赖和忠诚”。
信中没有详细说明 GPT-4 揭示的危险。
但包括签署这封信的纽约大学的加里马库斯在内的研究人员长期以来一直认为，聊天机器人是伟大的骗子，有可能成为虚假信息的超级传播者。
然而，作者科里·多克托罗 (Cory Doctorow) 将人工智能行业比作“拉高出货”计划，认为人工智能系统的潜力和威胁都被大大夸大了。
