摘要: 这里大家可能已经发现了,到目前为止,我们没有提到通常课本里所说的什么乱七八糟的正态分布啦,误差项啦,这其实是属于线性回归的概率解释。现在我们就来看一看线性回归的概率模型解释。 线性回归的概率解释 我们讲线性回归时用到了均方误差损失,但没有提到为什么损失函数要具有均方误差的形式。概率解释就给你其中一个 阅读全文
posted @ 2019-09-23 20:14 客忆安排 阅读(1271) 评论(0) 推荐(0) 编辑
摘要: 再谈最小平方问题 有了矩阵求导工具后,我们可以寻找最小化损失函数的参数值的 闭式解 (closed form solution)。首先我们先把这个损失函数表达成向量的形式。 把每个训练样本放在矩阵一行,可以得到一个$m \times n$ 设计矩阵$X$ (design matrix) ,即 $$ 阅读全文
posted @ 2019-09-23 14:44 客忆安排 阅读(601) 评论(0) 推荐(0) 编辑