矩阵求导术（四）— 链式求导法则

向量对向量求导链式法则：

标量对向量求导链式法则：

标量对多个向量求导链式法则（以最小二乘法求导为例）：

标量对多个矩阵求导链式法则（这里没有给出基于矩阵整体的链式求导法则，矩阵对矩阵求导过于复杂，这里没有涉及）：

有用的结论（机器学习尤其深度学习中经常用到）：

以上结论证明如下：

 

总结：优先先考虑链式求导法则，尤其是以上四个结论，其次考虑微分法，最后通过定义法保底

 

该文参考刘建平老师的博客：

https://www.cnblogs.com/pinard/archive/2004/01/13/10825264.html