人工智能能为人类做什么

“减轻人工智能灭绝的风险应该与流行病和核战争等其他社会规模的风险一起成为全球优先事项，”350 多个签名者在非营利性人工智能安全中心 (CAIS) 发表的一封信中写道。 除了奥特曼，他们还包括人工智能公司 DeepMind 和 Anthropic 的首席执行官以及微软和谷歌的高管。 其中还有 Geoffrey Hinton 和 Yoshua Bengio——因在深度学习方面的工作而获得 2018 年图灵奖的三位所谓的“AI 教父”中的两位——以及来自哈佛大学和中国清华大学等机构的教授。 CAIS 的一份声明特别指出了人工智能的第三任教父 Yann LeCun 工作的 Meta，因为它没有签署这封信。 “我们要求许多 Meta 员工签名，”CAIS 主任 Dan Hendrycks 说。 Meta 没有立即回应置评请求。 监管会谈 这封信恰逢美国-欧盟贸易和技术委员会在瑞典举行会议，届时政界人士预计将讨论人工智能监管问题。 埃隆·马斯克 (Elon Musk) 和一群 AI 专家及行业高管率先在 4 月份指出了对社会的潜在风险。 “我们已经向（马斯克）发出了邀请，希望他能在本周签署，”亨德里克斯说。 人工智能的最新发展创造了一些工具，支持者表示这些工具可用于从医学诊断到撰写法律简报的应用，但这引发了人们的担忧，即该技术可能会导致侵犯隐私、支持错误信息宣传活动，并导致“智能机器”思考问题他们自己。 两个月前，非营利组织未来生命研究所 (FLI) 发出了一封类似的公开信，由马斯克和其他数百人签署，要求紧急暂停高级人工智能研究，理由是人类面临风险。 “我们的信使暂停成为主流，这使灭绝成为主流，”FLI ​​主席马克斯泰格马克说，他也签署了最近的一封信。 “现在终于可以开始建设性的公开对话了。” 人工智能先驱欣顿早些时候告诉路透社，人工智能可能对人类构成比气候变化“更紧迫”的威胁。