新基准测试运行人工智能模型的速度

一个名为 MLCommons 的人工智能基准小组周一公布了新测试的结果，这些测试确定了顶级硬件运行人工智能模型的速度。 Nvidia 公司 (NVDA.O) 的芯片在大型语言模型测试中表现最好，英特尔公司 (INTC.O) 生产的半导体紧随其后。 新的 MLPerf 基准测试基于一个包含 60 亿个参数的大型语言模型，该模型总结了 CNN 新闻文章。该基准测试模拟人工智能数据处理的“推理”部分，为生成人工智能工具背后的软件提供动力。 Nvidia 提交的推理基准测试排名靠前的是其八款旗舰 H100 芯片。英伟达在人工智能模型训练市场占据主导地位，但尚未占领推理市场。 Nvidia 加速计算营销总监戴夫·萨尔瓦托 (Dave Salvator) 表示：“你所看到的是，我们正在全面提供领先的绩效，并且在所有工作负载上再次提供领先的绩效。” 英特尔的成功基于该公司 2019 年收购的 Habana 部门生产的 Gaudi2 芯片。Gaudi2 系统比 Nvidia 的系统慢大约 10%。 Habana 首席运营官 Eitan Medina 表示：“我们对推理结果感到非常自豪，因为我们展示了 Gaudi2 的性价比优势。” 英特尔表示，其系统比 Nvidia 的便宜——大约是 Nvidia 最后一代 100 系统的价格——但拒绝讨论该芯片的确切成本。 英伟达拒绝讨论其芯片的成本。周五，Nvidia 表示计划很快推出软件升级，使其在 MLPerf 基准测试中的性能提高一倍。 Alphabet (GOOGL.O) 的谷歌部门预览了其在 8 月份云计算会议上宣布的最新版本定制芯片的性能。