2020年3月12日
ResNet：Deep Residual Learning for Image Recognition
摘要： 更深层次的神经网络更难训练。我们提出了一个残差学习框架，以简化对比以前使用的网络更深入的网络的训练。我们根据层输入显式地将层重新表示为学习残差函数（ learning residual functions），而不是学习未定义函数。我们提供了综合的经验证据，表明这些残差网络易于优化，并且可以从大幅度增 阅读全文
posted @ 2020-03-12 19:46 纯洁的小兄弟 阅读(290) 评论(0) 推荐(0) 编辑
GoogeNet:Going Deeper with Convolutions
摘要： 提出一种Inception的网络结构，该有提高神经网络的计算资源利用率，可以在计算资源固定的情况下，使网络变得更深、更广。这种结构的提出是基于赫布理论和多尺度处理直觉。其中GoogleLeNet,是Inception网络结构的一个特例。 在目标检测的前沿，最大的收获不是简单的深层、更宽的神经网络的应 阅读全文
posted @ 2020-03-12 18:35 纯洁的小兄弟 阅读(190) 评论(0) 推荐(0) 编辑
VGG:Very Deep Convolutional Networks for Large-Scale Image Recognition.
摘要： Abstract 论文研究了卷积网络深度在大尺度图像识别设置中对其准确率的影响。主要贡献是使用一个带有非常小(3x3)卷积滤波器的架构对增加深度的网络进行了彻底的评估，这表明通过将深度推进到16 - 19个权重层，可以实现对先前art配置的显著改进。 Introduction CNN取得重大成就离不 阅读全文
posted @ 2020-03-12 18:19 纯洁的小兄弟 阅读(273) 评论(0) 推荐(0) 编辑
2020年3月10日
image classification competition steps
摘要： 第一步，先测试出最基本的比较合适的baseline模型 测试最基本的baseline模型如resnet50， efficientnet， senet等等模型，得到在暂时不进行数据增强的情况下得到一个较为出色的结果的模型(验证结果比较高同时能够对数据适当的过拟合）。这一步自己设定最为直观的Loss，o 阅读全文
posted @ 2020-03-10 21:09 纯洁的小兄弟 阅读(99) 评论(0) 推荐(0) 编辑
2020年3月7日
图像分类中提高性能的方法
摘要： 第一类：提高数据质量，数量 通过数据增强方法提高数据数量能够大大增加模型的泛化性能。如果能够通过分析数据之间的一些信息，进而提高数据的质量，也能够很好的提高模型的结果。 1.Random image cropping and patching Random image cropping and pa 阅读全文
posted @ 2020-03-07 17:00 纯洁的小兄弟 阅读(1844) 评论(0) 推荐(0) 编辑
2020年3月3日
numpy易错知识点
摘要： numpy中切片产生的对象共享内存，所以更改一个，另一个也会随之更改。 np.where(condition, x, y) 满足条件(condition)，输出x，不满足输出y。 >>> aa = np.arange(10) >>> np.where(aa,1,-1) array([-1, 1, 1 阅读全文
posted @ 2020-03-03 19:50 纯洁的小兄弟 阅读(178) 评论(0) 推荐(0) 编辑
深度学习优化方法比较
摘要： SGD 此处的SGD指mini-batch gradient descent，关于batch gradient descent, stochastic gradient descent, 以及 mini-batch gradient descent的具体区别就不细说了。现在的SGD一般都指mini- 阅读全文
posted @ 2020-03-03 13:47 纯洁的小兄弟 阅读(204) 评论(0) 推荐(0) 编辑
调参
摘要： 我们常说调参，但具体调的是什么，在此做一份总结： 超参数是我们控制我们模型结构、功能、效率等的 调节旋钮，具体有哪些呢： 学习率 epoch 迭代次数 隐藏层 激活函数 batch size 优化器，如：Adam，SGD…… 学习率 大 学习率 小 学习速度 块 慢 使用时间点 刚开始训练时 一定e 阅读全文
posted @ 2020-03-03 13:44 纯洁的小兄弟 阅读(1511) 评论(0) 推荐(0) 编辑
2020年3月2日
Numpy/Pytorch之数据类型与强制转换
摘要： 1.数据类型简介 Numpy NumPy 支持比 Python 更多种类的数值类型。 下表显示了 NumPy 中定义的不同标量数据类型。 Pytorch Torch定义了七种CPU张量类型和八种GPU张量类型,这里我们就只讲解一下CPU中的，其实GPU中只是中间加一个cuda即可，如torch.cu 阅读全文
posted @ 2020-03-02 23:55 纯洁的小兄弟 阅读(4244) 评论(0) 推荐(0) 编辑
numpy：维度问题
摘要： 浅谈NumPy中的维度Axis NumPy中的维度是一个很重要的概念，很多函数的参数都需要给定维度Axis，如何直观的理解维度呢？我们首先以二维数组为例进行说明，然后推广到多维数组。 (有人将ndim属性叫维度，将axis叫轴，我还是习惯将axis称之为维度，axis=0称为第一个维度) 二维数组的 阅读全文
posted @ 2020-03-02 22:48 纯洁的小兄弟 阅读(1233) 评论(0) 推荐(0) 编辑