AMD正面硬刚英伟达MI455X推理性能比Vera Rubin高30%

AMD MI455X 推理性能对标英伟达 Vera Rubin:DeepSeek-R1 单卡 21333 token/s,官方称吞吐最高领先 30%

2026 年 11 月 12 日,AMD 官方公布了 Instinct MI455X 在 Helios 机架级方案上的新一轮推理实测成绩:在 DeepSeek-R1 模型、MLPerf Inference Offline(离线)配置下,单卡达到每秒 21,333 个 Token 的推理吞吐,对比英伟达 Vera Rubin NVL72 最新公开的 MLPerf 离线成绩,AMD 称吞吐量最高高出 30%。AMD 这是 AMD MI400 系列在推理赛道上对英伟达旗舰平台的一次正面叫板,也是近期数据中心 AI 芯片竞争里少有的、直接挂到 MLPerf 公开榜单口径上的对比数据。需要先讲清楚的是:这组 30% 的领先来自 AMD 自家 Performance Labs 实验室测试(2026 年 10 月完成),对标对象是 MLPerf Inference v6.1 Closed Division 中 Vera Rubin NVL72 的已公开条目(6.1-0106,2026 年 11 月 11 日从 MLCommons 官网调取),目前还没有第三方独立复现,实际落地表现会随模型、软件版本和系统配置变化。

一、这次对比到底比了什么

先把测试口径拆开,避免把 "厂商宣传数字" 和 "通用性能结论" 混为一谈。

对比项目AMD Instinct MI455X对标对象:NVIDIA Vera Rubin NVL72
测试模型DeepSeek-R1DeepSeek-R1(同一公开模型)
测试配置MLPerf Inference Offline(离线吞吐)MLPerf Inference v6.1,Closed Division 公开成绩
推理成绩单卡 21,333 tokens/s已公开离线榜单成绩(条目 6.1-0106)
领先幅度吞吐最高领先约 30%—
测试执行方AMD Performance Labs(2026 年 10 月自测)榜单公开结果,2026-11-11 调取
系统载体AMD Helios 机架级方案(72 卡 MI455X)Vera Rubin NVL72 整机柜

几个容易被忽略的口径细节:

  • 比的是离线吞吐,不是在线交互延迟:Offline 配置优先压榨批量吞吐,和真实用户高并发、低延迟的在线推理场景不是一回事。
  • 单卡折算 vs 整柜成绩:21,333 tokens/s 是按单 GPU 折算的吞吐,对比基准来自 Vera Rubin NVL72 整柜公开成绩,跨层级比较时要留意口径差异。
  • 自测对标公开榜:MI455X 一侧由 AMD 实验室完成测试,Vera Rubin 一侧引用的是 MLPerf 已发布结果,两边测试环境、软件栈优化程度并不完全对等。

二、MI455X 靠哪些硬件底子跑出这个成绩

推理性能上不去,瓶颈往往不在峰值算力,而在显存容量、显存带宽和芯片间互联。MI455X 的设计正好对着这几个推理痛点发力。

核心硬件规格(AMD 官方公开参数)

规格项AMD Instinct MI455X
显存容量432 GB HBM4
显存类型HBM4,12 层显存堆叠
峰值显存带宽23.3 TB/s
晶体管数量3200 亿
L2 缓存192 MB
纠错支持支持 ECC
板卡形态Enhanced Accelerator Module(EAM)
Scale-up 互联UALink 双向峰值 3.6 TB/s
整机柜配置Helios 机架方案,72 张 GPU

AMD支撑 30% 推理吞吐领先的几个直接原因:

  1. 显存带宽更高:AMD 测算显示,MI455X 的 HBM 带宽相比英伟达 Vera Rubin 最高高出约 20%,Scale-up 互联带宽也更高,长上下文、大 MoE 模型推理时数据搬运等待更少。
  2. 大显存装得下长上下文:432GB HBM4 可以容纳更大的模型权重和 KV Cache,减少模型跨卡拆分带来的通信开销,这对 DeepSeek-R1 这类大模型推理尤其关键。
  3. 整机柜统一调度:MI455X 搭载在 Helios 机架方案中,配合 AMD EPYC 服务器 CPU、Pensando 网络和 ROCm 软件栈,按开放标准做整机柜集成,推理、训练和微调都在同一套基础设施上跑。

三、除了 30% 这个数字,还有哪些对比数据

除了 DeepSeek-R1 离线吞吐这一项,AMD 官方还披露了几组不同口径的对比,建议分开看,不要合并成一个 "全面碾压" 的结论。

  • 整柜理论峰值算力:Helios(72 张 MI455X)在 OCP MXFP4 数据类型下,理论峰值性能预计比采用 FP4 的 Vera Rubin NVL72 最高高出约 15%。
  • Kimi K2 Thinking 建模吞吐:在 32K 输入、8K 输出序列下,AMD 建模的 Helios 单卡吞吐对比 Vera Rubin NVL72 整机柜建模表现,低交互场景高约 15%、中交互高约 12%、高交互高约 10%。
  • 同系列降档版本 MI450X:AMD 同步推出 MI450X,显存降到 288GB HBM4,但核心算力、显存带宽以及 Scale-up / Scale-out 互联能力与 MI455X 保持一致,给显存需求没那么大的工作负载提供成本更低的选项。
  • 跨代提升:在 DeepSeek-V4-Flash 上,MI455X 相对上一代 MI355X,高交互场景 Token 吞吐最高提升 34 倍,单位 Token 成本最高降低 18 倍(AMD 官方对比口径)。

四、怎么理性看待这次 "正面硬刚"

  • 先分清测试层级:单卡折算吞吐、整机柜实测、理论峰值、建模预测是四类不同数字,30% 只对应 DeepSeek-R1 离线吞吐这一项,不能外推到所有模型和所有场景。
  • 自测结论需要等独立验证:目前 MI455X 一侧成绩由 AMD 实验室给出,后续要看 MLPerf 正式榜单条目、第三方机构实测以及客户真实部署数据能否复现这一领先幅度。
  • 软件生态仍是落地关键:硬件参数之外,ROCm 软件栈对现有 CUDA 代码的迁移兼容性、框架优化和工具链成熟度,直接决定客户能不能把集群真正跑起来;这也是 AMD 平台长期要补的短板。
  • 竞争仍在持续:英伟达 Vera Rubin 平台也已在 MLPerf 新榜单中亮相,双方在训练、推理、整柜互联和 Token 成本上的对比还会继续更新,单一时点的数字不宜当作终局结论。

综合来看,AMD MI455X 凭借 432GB HBM4、23.3TB/s 带宽和 Helios 整机柜方案,在 DeepSeek-R1 离线推理这一具体场景下,官方自测吞吐对比 Vera Rubin 最高领先 30%,确实在推理赛道上对英伟达形成了正面压力。但这一成绩属于厂商自测、特定模型与离线口径,真正的竞争力还要等第三方复现、软件生态成熟度和规模化部署成本一起验证。对选型方来说,更值得跟踪的是不同模型、不同交互强度下的实际 Token 吞吐、单位 Token 成本和迁移工作量,而不是单看某一个峰值百分比。

【相关 FAQ】

问题 1:AMD MI455X 对比英伟达 Vera Rubin 推理性能高 30%,是在什么模型和测试口径下得出的?

回答 1:这组 30% 的推理性能领先,是 AMD 在 DeepSeek-R1 模型、MLPerf Inference Offline 离线配置下测得的,MI455X 单卡吞吐为 21,333 tokens/s,对标 Vera Rubin NVL72 在 MLPerf Inference v6.1 Closed Division 中的最新公开离线成绩;测试由 AMD Performance Labs 于 2026 年 10 月完成,属于官方自测口径。

问题 2:MI455X 推理性能领先 Vera Rubin 主要靠哪些硬件规格支撑?

回答 2:MI455X 配备 432GB HBM4 显存、23.3TB/s 峰值显存带宽、3200 亿晶体管和 192MB L2 缓存,HBM 带宽相比 Vera Rubin 最高高约 20%,配合 Helios 整机柜 72 卡互联和 UALink Scale-up 带宽,减少大模型、长上下文推理时的显存与通信瓶颈,从而支撑对 Vera Rubin 的推理吞吐领先。

问题 3:MI455X 对 Vera Rubin 的 30% 推理性能领先,能不能直接理解为全面碾压?

回答 3:不能。30% 只对应 DeepSeek-R1 离线吞吐这一项对比,整柜理论峰值 AMD 称领先约 15%,Kimi K2 Thinking 建模吞吐领先幅度在 10%–15% 之间,不同模型、不同交互强度结果不同;而且 MI455X 一侧为 AMD 自测,尚待第三方独立复现,不能等同于对 Vera Rubin 全场景的全面领先。

问题 4:除了 MI455X,AMD 同系列还有没有针对 Vera Rubin 推理场景的降档选项?

回答 4:有。AMD 同步推出 MI450X,显存为 288GB HBM4,核心算力、显存带宽和 Scale-up/Scale-out 互联能力与 MI455X 一致,同样基于 ROCm 开放软件栈;对显存需求较小、追求更低单位推理成本的工作负载,可以用 MI450X 对标 Vera Rubin 平台做成本优化,对大模型、长上下文和高并发场景则保留 MI455X 的显存余量。

【参考资料】

  • [2026-11-17](AMD MI455X 单卡推理高 30%)抖音・路透时报
  • [2026-11-17](NVIDIA Vera Rubin 平台首次亮相 MLPerf,AI 算力进入新一轮性能竞赛)抖音
  • [2026-11-16](AMD MI450X:算力一点没涨,显存砍掉 144G)抖音・AI 芯集网
  • [2026-11-15](AMD 单卡每秒 21333 个 Token,跟你有啥关系?)抖音・算力热点
  • [2026-11-14](每日 AI 情报局:AMD 单卡 21333 token/s,宣称超英伟达 30%)抖音
  • [2026-11-12](AMD Advances the Instinct MI400 Series for AI and Scientific Computing)AMD Newsroom
  • [2026-07-23](AMD Launches Helios: The Highest Performing Rackscale AI Infrastructure Solution)AMD Blog

【免责声明】

本文内容基于截至 2026 年 11 月 17 日的公开网络资料与厂商官方信息整理,文中涉及的 MI455X 与 Vera Rubin 性能对比数据,除特别注明外均为 AMD 官方自测或公开榜单口径,未经第三方独立复测;实际性能会随模型版本、硬件配置、软件栈、互联方案和工作负载类型发生变化。本文仅作技术信息参考,不构成任何采购、投资或选型建议,引用数据请以厂商官方发布及正式榜单为准。

本文来自作者[月下寻汐]投稿,不代表海博商机网立场,如若转载,请注明出处:https://www.hb12369.net/qyzx/202611/1420.html

赞 (0)

今日大家都在搜的词:

发表回复

本站作者后才能评论

评论列表(4条)

  • 月下寻汐
    月下寻汐 2026年11月17日

    我是海博商机网的签约作者“月下寻汐”!

  • 月下寻汐
    月下寻汐 2026年11月17日

    希望本篇文章《AMD正面硬刚英伟达MI455X推理性能比Vera Rubin高30%》能对你有所帮助!

  • 月下寻汐
    月下寻汐 2026年11月17日

    本站[海博商机网]内容主要涵盖:互联网行业的追踪与探索

  • 月下寻汐
    月下寻汐 2026年11月17日

    本文概览:AMD MI455X 推理性能对标英伟达 Vera Rubin:DeepSeek-R1 单卡 21333 token s,官方称吞吐最高领先 30%

联系我们

联系:143 0457 151

工作时间:周一至周五,9:30-18:30,节假日休息

关注我们