矩阵求导术（三）— 微分法

标量导数与微分的关系如下：

 

向量微分与矩阵微分定义如下：

说明：

1. 向量微分最外面也可以加上迹运算，因为常量的迹就是它本身
2. 标量对向量、矩阵求导使用分母布局
3. 从定义中可以得出，矩阵向量微分与导数存在一个转置的关系

 

矩阵向量微分的性质：

 

迹函数运用技巧：

通过微分与导数的关系，微分的性质，迹函数的运用技巧，可以总结通过微分法求解矩阵向量求导的一般流程：

1. 求微分，通过微分性质

2. 套用迹，运用迹函数技巧

3. 求导，根据微分与导数的转置关系

 

个别举例求解过程如下：

 

通过微分法求解矩阵向量求导中，部分常用迹函数求导过程如下：

 

 

本文参考刘建平老师的博客：https://www.cnblogs.com/pinard/archive/2004/01/13/10791506.html