摘要：
CUDA Pro：通过向量化内存访问提高性能 许多CUDA内核受带宽限制，而新硬件中触发器与带宽的比率不断提高，导致带宽受限制的内核更多。这使得采取措施减轻代码中的带宽瓶颈非常重要。本文将展示如何在CUDA C / C ++中使用向量加载和存储，以帮助提高带宽利用率，同时减少已执行指令的数量。 本文 阅读全文
摘要：
CUDA 8的混合精度编程 Volta和Turing GPU包含 Tensor Cores，可加速某些类型的FP16矩阵数学运算。这样可以在流行的AI框架内更快，更轻松地进行混合精度计算。要使用Tensor Core，需要使用 CUDA 9 或更高版本。NVIDIA还 为TensorFlow，PyT 阅读全文
摘要：
在cuDNN中简化Tensor Ops 在Tesla V100 GPU中引入神经网络模型以来，神经网络模型已迅速利用NVIDIA Tensor Cores进行深度学习。例如，基于Tensor Core的解决方案宣布了ResNet50训练的性能记录。 NVIDIA的cuDNN库 使CUDA程序员能够优 阅读全文
摘要：
cuDNN概述 NVIDIACUDA®深度神经网络库（cuDNN）是GPU加速的用于深度神经网络的原语库。cuDNN为标准例程提供了高度优化的实现，例如向前和向后卷积，池化，规范化和激活层。 全球的深度学习研究人员和框架开发人员都依赖cuDNN来实现高性能GPU加速。它使他们可以专注于训练神经网络和 阅读全文