GPU优化

1.  优化方向
1. 传输、解码、计算流水线
2. 多个Stream并发
3. 低位数整数运算
4. CPU/GPU流水线

2. 每个核函数使用最少的寄存器

 

 

 

3. 必须最大限度地利用全局内存 带宽

 

 

 

4. 

 

 

 

5. 开启一级缓存和关闭（K40以上GPU默认关闭）

-Xptxas -dlcm=cg  (禁用一级缓存)

-Xptxas -dlcm=ca  (开启一级缓存)

（禁用）

 

（启用）

 

posted @   洛笔达  阅读(430)  评论(0)  编辑  收藏  举报
编辑推荐：
· 如何编写易于单元测试的代码
· 10年+ .NET Coder 心语，封装的思维：从隐藏、稳定开始理解其本质意义
· .NET Core 中如何实现缓存的预热？
· 从 HTTP 原因短语缺失研究 HTTP/2 和 HTTP/3 的设计差异
· AI与.NET技术实操系列：向量存储与相似性搜索在 .NET 中的实现
阅读排行：
· 地球OL攻略 —— 某应届生求职总结
· 周边上新：园子的第一款马克杯温暖上架
· Open-Sora 2.0 重磅开源！
· 提示词工程——AI应用必不可少的技术
· .NET周刊【3月第1期 2025-03-02】
点击右上角即可分享
微信分享提示
AI IDE Trae