摘要：
triton-inference-server https://github.com/triton-inference-server/server/blob/main/docs/README.md#resources https://github.com/triton-inference-serve 阅读全文
摘要：
docker “no space left on device”问题解决 在Linux环境上使用docker执行命令时遇到了 “no space left on device”可能是存储镜像的路径磁盘满了 1. 先使用docker info查看docker的信息 docker info 可以看到do 阅读全文
摘要：
CMD 命令行大全 cmd常用命令： calc：启动计算器 notepad：打开记事本 netstat -a:查看所有的端口 tasklist：查看所有的进程 d: 盘符切换 dir(directory) 列出当前目录下的文件以及文件夹 md (make directory) 创建目录 rd (re 阅读全文
摘要：
模型推理部署——基础概念篇 https://blog.csdn.net/u014448054/article/details/108316545 https://blog.csdn.net/he992284854/article/details/124779320 https://wenku.bai 阅读全文
摘要：
docker 构建 TensorRT 指定版本 image tensorrt——相关库的说明 Tensorrt 这是github上tensorrt的一个项目库。其介绍为：这个存储库包含了NVIDIA TensorRT的开源软件(OSS)组件。包括TensorRT插件和解析器(Caffe和ONNX)的 阅读全文
摘要：
GPU A10 driver, CUDA 安装 环境 HOST: ubuntu804LTS GUST: 通过PCIE 透卡， KVM 虚拟机: ubuntu1804LTS 在gust 里面安装GPU driver driver 安装 步骤 NVIDIA Telsa GPU 的 Linux 驱动在安装 阅读全文
摘要：
nvidia-smi 命令参数含义 GPU 的实时状态监测 解释相关参数含义： GPU：本机中的GPU编号 Name：GPU 类型 Persistence-M： Fan：风扇转速 Temp：温度，单位摄氏度 Perf：表征性能状态，从P0到P12，P0表示最大性能，P12表示状态最小性能 Pwr:U 阅读全文
摘要：
Python3 执行系统命令并获取实时回显功能 def __external_cmd(cmd, code="utf8"): print(cmd) process = subprocess.Popen(cmd, shell=True, stdin=subprocess.PIPE, stdout=sub 阅读全文
摘要：
TensorRT trtexec的用法说明 TensorRT Command-Line Wrapper: trtexec Description Included in the samples directory is a command line wrapper tool, called trte 阅读全文
摘要：
docker 常用命令总结 总结Docker常用命令，便于梳理和巩固对Docker的学习，也便于能够研究Docker更深层面的技术实现。 仓库相关 $ docker search $KEY_WORD # 查找镜像 $ docker pull $REGISTRY:$TAG # 获取镜像 $ docke 阅读全文