计量经济学/吴恩达课程笔记_从一元线性回归到多元线性回归

 

从一元线性回归到多元线性回归 :

之前讲一元线性回归的时候,梯度下降法,其实就是按照梯度下山, 一步一步地下山,

其中每一步= 梯度*学习率,学习率就是每一步的步长, 而梯度=导数. 相当于,迈出一步,我往下能走多少米 然后以此类推, 

 多元线性回归的过程过程相当于需要求的估计参数估计量增加了k>1,每个样本有多个参数,或者叫特征, 扩充到了k个 

那其实就是下山的"基"方向变多了, y=a0 +ax1+bx2. 多了一个x2方向上的下山可能,

 

由于每一项都是线性无关的, 或者说独立的,cov(x1,x2)=0

当以x1 为研究对象的时候 剩下几项和可以看成是常数

 y=a0 +ax1+bx2 =ax1+(a0+bx)=ax1+t          

那就相当于以x1为唯一变量的 一元线性回归

同理,x2也是这样,所以式子都可以化作一元式