ChatGPT 背后的初创公司 OpenAI 希望美国考虑强制许可公司开发强大的人工智能,比如支持其聊天机器人的人工智能,其首席执行官计划于周二告诉国会。
他的书面证词显示,首席执行官山姆·奥特曼 (Sam Altman) 首次在国会小组露面时,将提倡对具有某些能力的人工智能提出许可或注册要求。 这样一来,美国就可以要求公司遵守安全标准,例如在系统发布和发布结果之前进行测试。
“对人工智能的监管是必不可少的,”奥特曼在路透社看到的准备好的讲话中说。
几个月来,大大小小的公司竞相将越来越灵巧的人工智能推向市场,投入无穷无尽的数据和数十亿美元来应对挑战。 一些批评者担心这项技术会加剧社会危害,其中包括偏见和错误信息,而其他人则警告说人工智能可能会终结人类本身。
白宫召集了包括 Altman 在内的顶级技术 CEO 来解决人工智能问题。 美国立法者同样正在寻求采取行动,以进一步促进该技术的利益和国家安全,同时限制其滥用。 共识远未确定。
据路透社报道,OpenAI 的一名工作人员最近提议成立一个美国 AI 许可机构,可以称为 AI 安全和基础设施安全办公室,或 OASIS。
另请阅读:人工智能开辟了“建设与发展”的新途径
奥尔特曼在书面证词中没有对 OASIS 发表评论,尽管他主张“一个足够灵活的治理制度以适应新技术的发展”和“定期更新适当的安全标准”。
技术专家表示,如果 AI 发展过快,许可证可能会排挤较小的参与者或失去相关性,尽管它们将有助于美国集中监管并防止滥用。
OpenAI 得到微软公司 (MSFT.O) 的支持。 Altman 还呼吁就人工智能和安全合规激励措施开展全球合作。
司法委员会隐私、技术和法律小组委员会的领导人表示,周二的听证会标志着美国监管迈出了重要一步。
“AI 不再是幻想或科幻小说。它是真实存在的,它对善恶的影响非常明显和现实,”小组委员会主席参议员 Richard Blumenthal 说。 他说,重要的是人工智能不会导致虚假信息和身份欺诈的激增,并且该行业应该受到透明度和问责制的约束。
周二的另一位证人是国际商业机器公司 (IBM.N) 的首席隐私和信任官克里斯蒂娜·蒙哥马利 (Christina Montgomery)。 预计她将敦促国会将监管重点放在可能造成最大社会危害的领域。