摘要： 一、正向传播 （ 一 ） 定义 正向传播是指对神经⽹络沿着从输⼊层到输出层的顺序，依次计算并存储模型的中间变量（包括输出）。 为简单起⻅，假设输⼊是⼀个特征为 $x \in R^d$ 的样本，且不考虑偏差项，那么中间变量: $$z = W^{(1)}x$$ 其中 $$W^{(1)} \in R^{h 阅读全文