浅谈回归Regression(一)

一、什么是回归?

孩子的身高是否与父母有关?
实际上,父母和孩子的身高是受到回归效应影响的。在时间纵轴上受影响、具有随机性的事物,无不遵循这一规律。
只要数据足够大,人类的身高或者智商,都有趋于平均值的回归性。

1.1 回归与函数逼近

function approximation or regression

P.S. Reinforcement learning 以及 Regression
均是被误用的名词,但约定俗成沿用至今。so,请理解真正含义。

1.2 多项式的阶数

联想之傅里叶级数:
低阶决定形状,高阶决定细节

回到多项式的阶数,高阶多项式可利用自由度将误差降低。

but,过高的阶数可能导致模型过拟合
如图,高阶拟合可降低误差

如图 ,误差与拟合多项式阶数的关系

二、多项式回归

多项式求系数——Review Linear Algebra

求系数——矩阵运算

posted @ 2018-01-13 11:49  Neo007  阅读(540)  评论(0编辑  收藏  举报