随笔分类 - 科研论文
摘要：线性回归模型公式推导完整简洁版 这里做模型简化，假设有4个样本，每个样本有3个特征，然后使用平方误差作为损失函数，公式推导反向传播的求导过程。 设训练样本为 \[X = \left[ \begin{matrix} x_{1}^{(1)} & x_{2}^{(1)} & x_{3}^{(1)}\\ x
阅读全文
摘要：向量和矩阵求导 先说规律 先说结论，从标量、向量、矩阵他们之间可以互相求导，排列组合共有九种（3x3），即标量对标量求导、标量对向量求导、标量对矩阵求导；向量对标量求导、向量对向量求导、向量对矩阵求导；矩阵对标量求导、矩阵对向量求导，矩阵对矩阵求导。这些求导也不是什么高深的理论，也就是多元函数的偏导
阅读全文
