摘要：
本内容为神经网络的梯度推导与代码验证系列内容的第一章，更多相关内容请见《神经网络的梯度推导与代码验证》系列介绍。 目录 1.1 数学符号 1.2 矩阵导数的定义和布局 1.3 矩阵求导的优势 1.4 矩阵微分与矩阵求导 1.5 矩阵微分性质归纳 1.6 标量对矩阵/向量的导数求解套路-迹技巧 1.7 阅读全文
摘要：
前言 本系列文章要解决的主要问题是剖析清各种经典的神经网络结构（FNN，CNN，vanilla RNN以及LSTM）的前向传播与反向梯度求导，并在常用的深度学习框架中验证其结论的准确性。希望通过这些工作让自己对经典的神经网络结构以及深度学习框架有更深的理解。 本系列的主要内容编排如下： 数学知识准备 阅读全文