SAS学习 day7

多元线性回归

模型

零假设 b1=b2=...=bs=0

模型检验统计量 F统计量

系数检验统计量 T统计量

四中常用的模型选择方法：

全模型法 cp法

逐步法：

向前回归法
向后回归法
逐步回归法

CP法

通常和BEST =连用，如BEST=2就表示在不同变量个数组成的全模型组合中选择两个最好的模型。

cp < p p是变量个数加1 是最好的

逐步法

向前回归法：

首先第一个变量进入回归方程，并进行F检验和T检验，计算残差平方和，记为S1，如果通过检验，则该变量保留，引入第二个变量，重新构建一个新的估计方程，并进行F检验和T检验，同时计算残差平方和，记为s2，从直观上看，增加一个新的变量后，回归平方和应该增大，残差平方和相应应减少，即s2小于s1 称s1-s2的值是第二个变量的偏回归平方和，如果该值明显偏大，则说明第二个变量对因变量有显著影响。

向后回归法：

所有的X变量一次性进入模型进行F检验和T检验然后删除不显著的变量，如果偏回归平方和很大则保留

逐步回归法：

变量一个个进入方程，引入变量需要利用偏回归平方和进行校验当显著时加入该变量

当方程加入该变量后，又要对原有老变量重新用偏回归平方和进行校验如果不显著又要删除该变量

proc reg data=reg.b_fitness;
title  "cp法";
ALL_REG: model oxygen_consumption = performance runtime age weight
   run_pulse rest_pulse maximum_pulse
   / selection=rsquare adjrsq cp best=4;  全模型标志 cp
              可选     可选 调整的回归平方和   选四个最好的模型   一般选用adjrsq
plot cp. *np./  画图
 nomodel nostat
 vaxis = 0 to 30 by 5
 haxis = 2 to 7 by 1
 cmallows=red
 chocking=blue;
symbol v=plus color = green h=2;

title 'Stepwise Regression Methods';

标记可有可无

FORWARD: model oxygen_consumption=performance runtime age weight
run_pulse rest_pulse maximum_pulse
/selection=forward;
BACKWARD: model oxygen_consumption=performance runtime age weight
run_pulse rest_pulse maximum_pulse
/selection=backforward;
STEPWISE: model oxygen_consumption=performance runtime age weight
run_pulse rest_pulse maximum_pulse
/selection=stepwise;