求解线性回归我所知道的方法有两种,一种是使用梯度下降法,另一种是相当于对方程直接求导,找到最值点,这种方法比较适用与特征量较少的情况。然后直接求出所有的参数
先写好X向量以及W向量,那么答案u = XT * W,然后问题被转化为找到一个最小的Cost,(Cost表示真实值Y与预测值之间的差)
这里的误差采用平方,绝对值不容易被处理,所以采用平方
![](https://img2018.cnblogs.com/blog/1139718/201906/1139718-20190625190032208-2050005875.png)
用矩阵表示后可以使用python的numpy库解除矩阵的解 W = (XT * X)-1 XT * Y
关于矩阵的求导
然后得到了最小化下的参数W,带入就可以了
参考链接1