摘要：
一、原理 重点：明白偏导数含义，是该函数在该点的切线，就是变化率，一定要理解变化率。 1）什么是梯度 梯度本意是一个向量（矢量），当某一函数在某点处沿着该方向的方向导数取得该点处的最大值，即函数在该点处沿方向变化最快，变化率最大（为该梯度的模）。 2）代价函数有哪些 0-1损失函数(0-1 loss 阅读全文
摘要：
怎样理解非线性变换和多层网络后的线性可分，神经网络的学习就是学习如何利用矩阵的线性变换加激活函数的非线性变换 线性可分： 一维情景：以分类为例，当要分类正数、负数、零，三类的时候，一维空间的直线可以找到两个超平面（比当前空间低一维的子空间。当前空间是直线的话，超平面就是点）分割这三类。但面对像分类奇 阅读全文