摘要： 在coursera中Ng的机器学习课程中，他介绍了神经网络中的前向传播算法以及后馈算法，但是对于后馈算法中，为什么要那么做，只用了一句需要使用复杂的数学来证明。我查阅了相关的资料，对这一部分的原理进行了学习，现将这部分知识记录下来，以供共同学习。1、简单的线性模型中误差分析使用一个大小为N的训练集对一个预测（分类）模型进行训练时，总误差为： ————（1）而在一个线性模型中，第k个输出yk是输入xi的线性组合： ————（2）其中，wki是第i个输入到第k个输出的边权。对于某个输入数据（另外一种讲法叫模式）n，它的误差函数被定义为： ————（3）其中，ynk... 阅读全文