11 2023 档案
摘要:卸载驱动 sudo nvidia-uninstall sudo apt-get remove --purge nvidia* 重启 sudo reboot 安装驱动 sudo bash [驱动文件.run] -no-x-check -no-nouveau-check -no-opengl-files
阅读全文
摘要:1,挑选校准数据集,如测试集,bad case数据 2,每层量不量化对最后一层输出的cos影响,影响大的,设置成fp16或者int16 3,部分cos较低的层,想办法从源头提高cos,如加上一个BN,换上adam优化器,而不是adamw 4,brecq/qdrop,或者we,或者联合使用 6,多分支
阅读全文