顶尖研究人员表示，政府、企业应该在人工智能安全上投入更多资金

顶级人工智能研究人员在周二的一封信中表示，人工智能公司和政府应将至少三分之一的人工智能研发资金用于确保系统的安全和道德使用。 这封信是在伦敦国际人工智能安全峰会前一周发布的，列出了政府和企业应对人工智能风险应采取的措施。 这封信由三名图灵奖获得者、一名诺贝尔奖获得者和十几位顶级人工智能学者签署，信中表示：“政府还应该要求企业对其前沿人工智能系统造成的、可以合理预见和预防的损害承担法律责任。” 。 目前，还没有针对人工智能安全的广泛法规，而且欧盟的第一套立法尚未成为法律，因为立法者尚未就几个问题达成一致。 “最近最先进的人工智能模型太强大了，也太重要了，不能让它们在没有民主监督的情况下发展，”被称为人工智能教父的三人之一约书亚·本吉奥(Yoshua Bengio)说。 “它（对人工智能安全的投资）需要快速进行，因为人工智能的进展速度远远快于所采取的预防措施，”他说。 这封信的签名者包括杰弗里·辛顿、安德鲁·姚、丹尼尔·卡尼曼、道恩·宋和尤瓦尔·诺亚·哈拉里。 自从 OpenAI 的生成式人工智能模型推出以来，顶尖学者和埃隆·马斯克等知名首席执行官就人工智能的风险发出了警告，包括呼吁暂停开发强大的人工智能系统六个月。 一些公司对此予以反驳，称他们将面临高昂的合规成本和不成比例的责任风险。