11 2019 档案

摘要:使用python接口, 另外一种方式就是使用tf-trt,优化后的模型还是pb。优化的过程主要是一些层的合并啊之类的,加速结果不是特别明显,测了两个网络, 加速了10%的样子。优化后仍是pb,因此可以继续用tfserving。 keras/tf model -> pb model ->(trt优化m 阅读全文
posted @ 2019-11-27 19:16 牧马人夏峥 阅读(2523) 评论(0) 推荐(0) 编辑
摘要:1、首先将pb转为uff格式的模型 python /usr/lib/python3.5/dist-packages/uff/bin/convert_to_uff.py --input_file models/lenet5.pb 2、使用trt engine加速 这个加速还是挺明显的,但转换后的模型无 阅读全文
posted @ 2019-11-27 18:56 牧马人夏峥 阅读(1383) 评论(0) 推荐(0) 编辑
摘要:pip install alfred-py 在代码中加入 阅读全文
posted @ 2019-11-25 10:22 牧马人夏峥 阅读(519) 评论(0) 推荐(0) 编辑
摘要:1、下载 https://developer.nvidia.com/nvidia-tensorrt-5x-download 选择5 GA版本,注意选择与自己CUDA匹配的版本 2、安装 参考:https://blog.csdn.net/zong596568821xp/article/details/ 阅读全文
posted @ 2019-11-25 10:10 牧马人夏峥 阅读(1090) 评论(0) 推荐(0) 编辑
摘要:Objects as Points anchor-free系列的目标检测算法,只检测目标中心位置,无需采用NMS 1、主干网络 采用Hourglass Networks [1](还有resnet18 with up conv layer,以及DLA-34),这是一个用于人体姿态检测的网络,网络结构如 阅读全文
posted @ 2019-11-24 20:07 牧马人夏峥 阅读(1078) 评论(0) 推荐(0) 编辑
摘要:在tfserving上,目测只能在每个gpu上起docker https://github.com/tensorflow/serving/issues/311#issuecomment-480176078 对于keras,github有利用多线程来解决多gpu推理 https://github.co 阅读全文
posted @ 2019-11-21 15:37 牧马人夏峥 阅读(405) 评论(0) 推荐(0) 编辑
摘要:https://hub.docker.com/r/mapler/caffe-py3/ docker pull mapler/caffe-py3 docker run -it mapler/caffe-py3 bash 阅读全文
posted @ 2019-11-19 14:54 牧马人夏峥 阅读(200) 评论(0) 推荐(0) 编辑

点击右上角即可分享
微信分享提示