摘要：
本人机器为64位win7 首先安装python，版本一定要注意，TennsorFlow要使用 Python3.0 系列版本不能使用2.0系列版本，但是TensorFlow 的安装包目前windows版本还不支持 Python 3.6 。 该图是查看TensorFlow目前支持的安装包结果（链接为ht 阅读全文
摘要：
课时26 图像分割与注意力模型（上） 语义分割：我们有输入图像和固定的几个图像分类，任务是我们想要输入一个图像，然后我们要标记每个像素所属的标签为固定数据类中的一个 使用卷积神经，网络为每个小区块进行分类，对在区块的中间打上标签，对图像的全部区块分类完毕，我们就可以得到每个像素所对应的标签，这个操作 阅读全文
摘要：
课时24 深度学习开源库使用介绍（上） Caffe 被用于重新实现AlexNet，然后用AlexNet的特征来解决其他事情 用C++书写的，可以去GitHub上面读取源代码 主要四个类： Blob可以存你的权重，像素值，激活等，是n维的张量，就像NumPy一样，他实际上内部有四个n维张量，这个张量有 阅读全文
摘要：
课时14 卷积神经网络详解（上） CNN处理的是一些数据块，在这之间有很多层，一系列的层将输入数据变换为输出数据，所以完成操作的中间量不仅是NN时候讲的那些向量，而是立体结构，有宽，高和深度，在整个计算过程中要保持这些三维特征。这里的深度指的是一个数据体的第三个维度。 工作流程 我们得到一些数据，作 阅读全文
摘要：
课时12 神经网络训练细节part2（上） 训练神经网络是由四步过程组成，你有一个完整的数据集图像和标签，从数据集中取出一小批样本，我们通过网络做前向传播得到损失，告诉我们目前分类效果怎么样。然后我们反向传播来得到每一个权重的梯度，这个梯度告诉我们如何去调整每一个权重，最终我们能够更好的分类图片。 阅读全文
摘要：
课时11 神经网络训练细节part1（下） 2010年，Glorot等人写的论文，我们称之为Xavier初始化，他们关注了神经元的方差表达式。他们推荐一种初始化方式，那就是对每个神经元的输入进行开根号。但是这种方法用在relu网络不是很奏效，这时候需要考虑一个额外因数2，如果没有这个2，则激活输出的 阅读全文
摘要：
课时10 神经网络训练细节part1（上） 没有大量的数据也不会有太多影响，只需要找一个经过预训练的卷积神经网络然后进行调整 sihmoid函数 是一个挤压函数，取值为0到1之间的实数 他的第一个问题：一个饱和的神经元，也就是说这个神经元的输出要么非常接近0要么非常接近1，这些神经元会导致在反向传播 阅读全文
摘要：
课时8 反向传播与神经网络初步（上） 反向传播在运算连路中，这是一种通过链式法则来进行递推的计算过程，这个链路中的每一个中间变量都会对最终的损失函数产生影响。 链式法则通常包含两部分，局部梯度和后一层的梯度相乘 前向和反向花费的时间是基本一样的。 大的函数也可以直接视作一个整体计算梯度 当局部梯度非 阅读全文
摘要：
课时7 线性分类器损失函数与最优化（下） 我们为什么要最大化对数概率而非直接最大化概率？ 你在做逻辑斯蒂回归时，如果你只是想要最大化概率，那你使用log是无意义的。因为log函数是单调函数，最大化概率和最大化对数概率是等价的。 Softmax vs. SVM 我们调整其中的评分，使值上下浮动，对于S 阅读全文
摘要：
课时6 线性分类器损失函数与最优化（上） 多类SVM损失：这是一个两分类支持向量机的泛化 SVM损失计算了所有不正确的例子，将所有不正确的类别的评分，与正确类别的评分之差加1，将得到的数值与0作比较，取两者中的最大值。然后将所有的数值进行求和。用平均值来代替不会影响结果。 这些评分都是无标度的，因为 阅读全文