A100引入了突破性的新功能优化推理工作负载。它通过全系列精度(从FP32、FP16、INT8一直到INT4)加速,实现了强大的多元化用途。MG技术支持多个网络同时在单个A100GPU运行,从而优化计算资源的利用率。在A100其他推理性能提升的基础上,结构化稀疏支持将性能再提升两倍。NMDA提供市场的推理性能,在第一项专门针对推理性能的行业级基准测试 Mlperf Inference0.5中全面制!胜的结果充分证明了这一点。A100则再将性能提升10倍,在这样的基础上进一步取得了发展。
为了点燃下一代新发现的火花,科学家们希塑通过模拟更好地理解复杂分子结构以支持药物发现,通过模拟物理效果寻找潜在的新能源,通过模拟大气数据更好地预测极端天气状况并为其做准备。A100引入了双精度 Tensor Cores,继用于HPC的GPU双精度计算技术推出至今,这是非常重要的里程碑。利用A100,原本在 NVIDIAV100 Tensor Core GPU上需要10小时的双精度模拟作业如今只要4小时就能完成。HPC应用还可以利用A100的 Tensor Core将单精度矩阵乘法运算的吞吐量提高10倍之多。
