随笔分类 -  tensorflow笔记

摘要:tensorflow graphdefs to TensorFlow Lite's flat buffer format tf、tflite存储格式不同,数据精度不同. 量化 量化好处自不必说了,减小模型大小,减少内存占用,提升速度,以及某些架构的硬件只支持int8,这时候必须量化.缺点就是模型精度 阅读全文
posted @ 2020-03-31 20:41 core! 阅读(2931) 评论(0) 推荐(0) 编辑
摘要:tf.compat.v1.GraphDef GraphDef有很多NodeDef class 'tensorflow.python.framework.ops.Graph' class 'tensorflow.core.framework.graph_pb2.GraphDef //protobuf 阅读全文
posted @ 2020-03-31 14:27 core! 阅读(307) 评论(0) 推荐(0) 编辑
摘要:模型量化 什么是量化 模型的weights数据一般是float32的,量化即将他们转换为int8的。当然其实量化有很多种,主流是int8/fp16量化,其他的还有比如 二进制神经网络:在运行时具有二进制权重和激活的神经网络,以及在训练时计算参数的梯度。 三元权重网络:权重约束为+1,0和 1的神经网 阅读全文
posted @ 2019-11-30 18:17 core! 阅读(8227) 评论(0) 推荐(8) 编辑
摘要:通常为了模型能更好的收敛,随着训练的进行,希望能够减小学习率,以使得模型能够更好地收敛,找到loss最低的那个点. tensorflow中提供了多种学习率的调整方式.在搜索decay.可以看到有多种学习率的衰减策略. cosine_decay exponential_decay inverse_ti 阅读全文
posted @ 2019-11-19 10:26 core! 阅读(3746) 评论(0) 推荐(0) 编辑
摘要:tf.Example msg tensorflow提供了一种统一的格式.tfrecord来存储图像数据.用的是自家的google protobuf.就是把图像数据序列化成自定义格式的二进制数据. To read data efficiently it can be helpful to serial 阅读全文
posted @ 2019-11-08 14:43 core! 阅读(833) 评论(1) 推荐(1) 编辑
摘要:最近工作里需要用到tensorflow的pretrained model去做retrain. 记录一下. 为什么可以用pretrained model去做retrain 这个就要引出CNN的本质了.CNN的本质就是求出合适的卷积核,提取出合理的底层特征.进而为不同的特征赋以权重.从而表达图像. 通俗 阅读全文
posted @ 2019-04-20 10:11 core! 阅读(1617) 评论(0) 推荐(0) 编辑
摘要:代码示例来自https://github.com/aymericdamien/TensorFlow Examples tensorflow先定义运算图,在run的时候才会进行真正的运算。 run之前需要先建立一个session 常量用constant 如a = tf.constant(2) 变量用p 阅读全文
posted @ 2019-02-22 23:28 core! 阅读(473) 评论(0) 推荐(2) 编辑

点击右上角即可分享
微信分享提示