线性回归中常见的一些统计学术语（RSE RSS TSS ESS MSE RMSE R2 Pearson's r）

TSS: Total Sum of Squares（总离差平方和） --- 因变量的方差

 

RSS: Residual Sum of Squares （残差平方和） ---  由误差导致的真实值和估计值之间的偏差平方和(Sum Of Squares Due To Error)

 

ESS: Explained Sum of Squares （回归平方和） ---  被模型解释的方差(Sum Of Squares Due To Regression) 

 

TSS=RSS+ESS

 

R²: Coefficient of Determination（决定系数） --- 因变量方差中可由自变量解释的比例，是模型解释力的指标

 

adjusted R²: adjusted R²与R²类似，不过考虑到了样本数和变量数

 

MSE: Mean Squared Error （均方误差） ---  真实值和估计值之间的偏差平方和的平均值，用来评估模型的效果

 

RMSE: Root Mean Squared Error（均方根误差） ---  MSE的方根，可从单位度量上衡量模型的效果

 

RSE: Residual Standard Error（残差的标准误差） ---  描述目标和真实回归线之间的平均偏移量，用来估计残差的标准差

(n-p-1: 自由度，p: 特征数)

 

Correlation: 也就是Pearson's r（皮尔逊相关系数） ---  用来检测自变量X和因变量Y之间的线性关系有多强