随笔分类 - GPU(转载)
cuda
摘要:原创 死了的摩尔定律,被英伟达GPU救活:8年间,算力增长1000倍 众所周知,在芯片领域,有一个著名的摩尔定律,说是的芯片的晶体管密度,每经过18个月到24个月便会增加一倍。或者换句话,性能每2年翻一倍,价格下降一半。 这个定律,在28nm之前一直生效的,但到了28nm之后,其实已经死了,因为28
阅读全文
摘要:AI训练,为什么需要GPU? 随着由ChatGPT引发的人工智能热潮,GPU成为了AI大模型训练平台的基石,甚至是决定性的算力底座。为什么GPU能力压CPU,成为炙手可热的主角呢? 要回答这个问题,首先需要了解当前人工智能(AI,Artificial Intelligence)的主要技术。 人工智能
阅读全文
摘要:NVSMI监控GPU使用情况和更改GPU状态系列命令总结分享 1 NVIDIA-SMI介绍 nvidia-smi简称NVSMI,提供监控GPU使用情况和更改GPU状态的功能,是一个跨平台工具,它支持所有标准的NVIDIA驱动程序支持的Linux发行版以及从WindowsServer 2008 R2开
阅读全文
摘要:nvidia-smi 命令解读 nvidia-smi是用来查看GPU使用情况的。我常用这个命令判断哪几块GPU空闲,但是最近的GPU使用状态让我很困惑,于是把nvidia-smi命令显示的GPU使用表中各个内容的具体含义解释一下。 这是服务器上特斯拉K80的信息。 上面的表格中: 第一栏的Fan:N
阅读全文
摘要:CUDA学习笔记一 由于各种需求,所以略微了解学习一下gpu的CUDA怎么操作? CUDA简介 CUDA是并行计算的平台和类C编程模型,我们能很容易的实现并行算法,就像写C代码一样。只要配备的NVIDIA GPU,就可以在许多设备上运行你的并行程序,无论是台式机、笔记本抑或平板电脑。熟悉C语言可以帮
阅读全文