摘要：
BackPropagation BackPropagation中文翻译是后向传播算法，其实更形象的翻译是 误差逆向传播 。其实没什么，不就是利用了 链式法则 。 链式法则（英文chain rule）是 "微积分" 中的 "求导" 法则，用于求一个复合函数的导数，是在微积分的求导运算中一种常用的方法。 阅读全文
摘要：
交叉熵损失函数 熵的本质是香浓信息量$\log(\frac{1}{p})$的期望 既然 熵的本质是香浓信息量$\log(\frac{1}{p})$的期望 ，那么便有 $$ H(p)=E[p_i\times\log(\frac{1}{p_i})]=\sum p_i\times\log\frac{1}{ 阅读全文