发生了什么
NVIDIA GB200在AI训练和推理任务中显著优于H200,all-reduce延迟降低48%,MoE prefill和decode性能提升,显示出硬件性能突破。
为什么值得关注
展示了AI硬件性能的具体技术优化数据,符合用户对技术突破的关注点
信息来源
以下内容来自公开来源,可打开原文继续核验。
01
NVIDIA GB200在AI训练和推理任务中显著优于H200
NVIDIA GB200在AI训练和推理任务中显著优于H200,all-reduce延迟降低48%,MoE prefill和decode性能提升,显示出硬件性能突破。
打开原始来源 ↗