摘要: 转载http://blog.csdn.net/shuzfan/article/details/50738394 本文介绍的是著名的网络结构GoogLeNet及其延伸版本,目的是试图领会其中的思想而不是单纯关注结构。 GoogLeNet Incepetion V1 Motivation Archite 阅读全文
posted @ 2017-10-19 16:15 xsc906476903 阅读(193) 评论(0) 推荐(0) 编辑
摘要: 通常我们说5*5的卷积核,其实都忽略了卷积核的第三个通道,该通道是和输入的feature_map的第3个维度有关的。比如我们data层输入了一张224*224*3的图片,然后我们第一个卷积层里面参数是kernel_size =5,output=96.那么我们卷积部分的参数应该是5*5*3*96,意思 阅读全文
posted @ 2017-10-19 16:04 xsc906476903 阅读(155) 评论(0) 推荐(0) 编辑
摘要: 转载http://blog.csdn.net/shuzfan/article/category/7072956 深度学习的兴起,使得多线程以及GPU编程逐渐成为算法工程师无法规避的问题。这里主要记录自己的GPU自学历程。 目录 《GPU编程自学1 —— 引言》 《GPU编程自学2 —— CUDA环境 阅读全文
posted @ 2017-10-19 15:47 xsc906476903 阅读(532) 评论(0) 推荐(0) 编辑
摘要: “Xavier”初始化方法是一种很有效的神经网络初始化方法,方法来源于2010年的一篇论文《Understanding the difficulty of training deep feedforward neural networks》,可惜直到近两年,这个方法才逐渐得到更多人的应用和认可。 为 阅读全文
posted @ 2017-10-19 14:45 xsc906476903 阅读(3907) 评论(1) 推荐(1) 编辑
摘要: https://tensortalk.com/?cat=model-compression-parameter-pruning 阅读全文
posted @ 2017-10-18 18:05 xsc906476903 阅读(84) 评论(0) 推荐(0) 编辑
摘要: 前言: 这篇论文主要使用特征金字塔网络来融合多层特征,改进了CNN特征提取。作者也在流行的Fast&Faster R-CNN上进行了实验,在COCO数据集上测试的结果现在排名第一,其中隐含的说明了其在小目标检测上取得了很大的进步。其实整体思想比较简单,但是实验部分非常详细和充分。 摘要: 特征金字塔 阅读全文
posted @ 2017-10-16 18:08 xsc906476903 阅读(1007) 评论(1) 推荐(1) 编辑
摘要: Batch Norm可谓深度学习中非常重要的技术,不仅可以使训练更深的网络变容易,加速收敛,还有一定正则化的效果,可以防止模型过拟合。在很多基于CNN的分类任务中,被大量使用。 但我最近在图像超分辨率和图像生成方面做了一些实践,发现在这类任务中,Batch Norm的表现并不好,加入了Batch N 阅读全文
posted @ 2017-10-13 14:07 xsc906476903 阅读(661) 评论(0) 推荐(0) 编辑
摘要: LUA 阅读全文
posted @ 2017-09-14 10:09 xsc906476903 阅读(284) 评论(0) 推荐(0) 编辑
摘要: 前言 线程的组织形式对程序的性能影响是至关重要的,本篇博文主要以下面一种情况来介绍线程组织形式: 2D grid 2D block 一些基本的描述: gridDim.x-线程网络X维度上线程块的数量 gridDim.y-线程网络Y维度上线程块的数量 blockDim.x-一个线程块X维度上的线程数量 阅读全文
posted @ 2017-09-08 15:58 xsc906476903 阅读(113) 评论(0) 推荐(0) 编辑
摘要: 由于各种需求,所以略微了解学习一下gpu的CUDA怎么操作? CUDA简介 CUDA是并行计算的平台和类C编程模型,我们能很容易的实现并行算法,就像写C代码一样。只要配备的NVIDIA GPU,就可以在许多设备上运行你的并行程序,无论是台式机、笔记本抑或平板电脑。熟悉C语言可以帮助你尽快掌握CUDA 阅读全文
posted @ 2017-09-08 14:52 xsc906476903 阅读(144) 评论(0) 推荐(0) 编辑