NVIDIA公布最新MLPerf AI性能测试成绩,x86与Arm服务器成绩都有所领先

NVIDIA在最新公布的MLPerf测试成绩中,提供了使用多种运算平台的性能表现,并首次提供于Arm处理器平台搭配A100运算卡的数据。

MLPerf是由学术界、研究实验室和业界共同组成的AI联盟,目标为打造公平、实用测试基准,通过图像分类、物体侦测、翻译、自然语言处理、推荐等不同类型的测试项目,提供客观的AI训练与推论性能评估。

在最新公布的结果中,可以看到A100运算卡在过去1年中,能够通过软件更新多可带来50%的性能增益,让用户不需额外支出就能改善AI运算性能表现。至于与Qualcomm Cloud AI 100以及Intel Xeon Platinum 8380等运算平台的性能对比部分,无论在数据中心以及边缘运算等使用场景下,主流的A30运算卡与高端的A100运算卡都能取得性能领先,而在电力效率部分,A100与Cloud AI 100则互有输赢。

值得注意的是,这次的成绩还包含了Arm架构服务器搭配A100运算卡的数据,可以看到它能够提供与x86平台相近的性能表现。

MLPerf 1.1包含推荐、自然语言处理、语音识别、医疗图片、图像分类、物体侦测等多种不同项目,并交叉搭配数据中心、边缘运算之脱机运算(不在意延迟)、即时运算(在意延迟)等场景。

Arm高性能计算资深总监David Lecomber表示,身为MLCommons的创始成员,Arm致力于创建标准测试流过程,而这次公布的数据可以证明Arm架构处理器与软件堆栈已经准备好搭配NVIDIA GPU进行各种AI运算负载。