NVIDIA推理软件优化降低token成本

NVIDIA推理软件优化降低token成本

NVIDIA 公布其推理软件栈在 Blackwell 上一个月内将 DeepSeek V4 性能提升高达 5 倍，token 成本降至之前的约五分之一，整体吞吐量提升 20 倍，且持续优化降低成本。