NVIDIA Blackwell GPU首次实测跑分：提升多达2.2倍

admin 阅读：62 2024-11-15 07:06:02 评论：0

11月14日消息，NVIDIA Blackwell GPU相当强悍，大家都知道，但到底有多强呢？除了官方宣传数据，现在终于第一次看到了实测数据，来自MLCommons MLPerf v4.1，考察AI训练推理性能的最佳平台。对比对象是两代服务器HGX B200、HGX H200，前者包含多达八颗Blackwell GPU B200，单颗功耗高达1000W。GPT-3预训练项目中，Blackwell的性能相比上代Hopper翻了一番。Llama 2 700亿参数微调项目中，Blackwell的性能更是提升了多达2.2倍。值得一提的是，Blackwell平台具备ConnectX-7 SuperNICs网卡、Quantum-2 InfiniBand交换机，再加上第五代NVlink互连总线，可以充分保障节点间的通信，可以平衡分配AI训练负载，整体效率更高。比如同样的GPT-3 1750亿参数性能，Hopper需要多达256颗GPU，Blackwell就只需要64颗。

本文 htmlit 原创，转载保留链接！网址：https://m.dgghz.com.cn/keji/5960.html

可以去百度分享获取分享代码输入这里。

声明

1.本站遵循行业规范，任何转载的稿件都会明确标注作者和来源；2.本站的原创文章，请转载时务必注明文章作者和来源，不尊重原创的行为我们将追究责任；3.作者投稿可能会经我们编辑修改或补充。