人工智能为 2024 年带来政治风险，并可能误导选民：“我们还没有为此做好准备”

多年来，计算机工程师和热衷于技术的政治学家一直警告说，廉价、强大的人工智能工具很快就会允许任何人创建虚假的图像、视频和音频，这些图像、视频和音频非常逼真，足以愚弄选民，甚至可能影响选举。 出现的合成图像通常很粗糙、缺乏说服力且制作成本高昂，尤其是当其他类型的错误信息如此便宜且易于在社交媒体上传播时。人工智能和所谓的深度造假所带来的威胁似乎总是在一两年后出现。 不再。 先进的生成式 AI 工具现在可以在几秒钟内以最低的成本创建克隆的人类声音和超逼真的图像、视频和音频。当绑定到强大的社交媒体算法时，这种虚假和数字创建的内容可以传播得更远、更快，并针对高度特定的受众，有可能将竞选肮脏的把戏推向新低。 对 2024 年竞选和选举的影响既大又令人不安：生成式人工智能不仅可以快速生成有针对性的竞选电子邮件、文本或视频，还可以用来误导选民、冒充候选人并大规模破坏选举。以前所未有的速度。 “我们没有为此做好准备，”A.J. 警告说。 Nash 是网络安全公司 ZeroFox 的情报副总裁。 “对我来说，巨大的飞跃是已经出现的音频和视频功能。当你能大规模地做到这一点，并在社交平台上传播时，它就会产生重大影响。” AI 专家可以迅速说出几个令人担忧的场景，在这些场景中，生成式 AI 被用来创建合成媒体来混淆选民、诽谤候选人甚至煽动暴力。 以下是其中一些： 以候选人的声音发出的自动机器人电话信息，指示选民在错误的日期投票；据称承认犯罪或表达种族主义观点的候选人的录音；显示某人发表他们从未做过的演讲或采访的视频片段。伪造的图像看起来像当地的新闻报道，谎称候选人退出了比赛。 “如果埃隆马斯克亲自打电话给你，让你投票给某个候选人怎么办？” Allen Institute for AI 的创始首席执行官 Oren Etzioni 说，他去年卸任并创办了非营利组织 AI2。 “很多人会听。但那不是他。”