摘要:
管理员方式打开powershell 执行命令:Set-Executionpolicy -executionpolicy remotesigned -scope localmachine 执行命令:conda init powershell 解读命令:Set-Executionpolicy -exec 阅读全文
摘要:
在 Ubuntu 24.04 上快速搭建 SSHD 服务器 1. 准备工作 一台运行 Ubuntu 24.04 的服务器 互联网连接 SSH 客户机(例如,PuTTY 或 OpenSSH) 2. 安装 SSH 服务器 sudo apt update && sudo apt upgrade sudo 阅读全文
摘要:
PyTorch 动态量化 API PyTorch 提供了丰富的动态量化 API,可以帮助开发者轻松地将模型转换为动态量化模型。主要 API 包括: torch.quantization.quantize_dynamic:将模型转换为动态量化模型。 torch.quantization.QuantSt 阅读全文
摘要:
PyTorch 动态量化模型简介 PyTorch动态量化是一种模型优化技术,可以将模型参数和激活从浮点数转换为定点数,从而显著降低模型大小和提高推理速度。与静态量化不同,动态量化是在推理时进行量化,无需预先收集校准数据。 动态量化工作原理 动态量化主要包含以下步骤: 观察: 在模型推理过程中,观察每 阅读全文