一元线性回归模型

1.一元线性回归模型

 

 

 2.如何求里面的参数a,b

我们默认误差符合正态分布，那么利用最小二乘法，即可求参数a,b

 

 

 求最小值，也就是对a,b求偏导数

 

 

 

3.如何使用Python求这个值

第一种方法：

直接根据上面的公式去计算

import numpy as np
#生成数据
x = np.arange(0,20)
v = np.random.uniform(-10,+10,x.shape)#干扰，让数据有误差
y = 2 * x + v
plt.scatter(x,y)
# 简单线性回归模型的参数求解
# 样本量
n = x.shape
# 计算自变量、因变量、自变量平方、自变量与因变量乘积的和
sum_x = x.sum()
sum_y = y.sum()
sum_x2 = (x*x).sum()
xy = x * y
sum_xy = xy.sum()
# 根据公式计算回归模型的参数
b = (sum_xy-sum_x*sum_y/n)/(sum_x2-sum_x**2/n)
a = sum_y/n-b*sum_x/n
# 打印出计算结果
print('回归参数a的值：',a)  #[-0.31848548]
print('回归参数b的值：',b)  #[1.97134719]

y1=a+b*x
plt.scatter(x,y)
plt.plot(x,y1)

 

 

第二种方法：

statsmodel所示专门用于统计建模的第三方模块，如需实现线性回归模型的参数求解，可以调用子模块中的ols函数

该函数语法：

ols(formula,data,subset=None,drop_cols=None)

• fromula:以字符串形式指定线性回归的模型，y~x就表示简单线性回归模型
• data:指定建模的数据集
• subset:通过布尔类型的数组对象，获取data的子集用于建模
• drop_cols:指定需要从data中删除的变量

import statsmodels.api as sm
import pandas as pd 
data = pd.DataFrame()
data['x'] = x
data['y'] = y

#构建回归模型
fit = sm.formula.ols('y ~ x',data = data).fit()
fit.params

y2= 1.971347*x-0.318485
plt.scatter(x,y)
plt.plot(x,y1)
plt.plot(x,y2)

 

 

第三种方法：

使用sklearn库的算法

# 导入线性回归模块
from sklearn.linear_model import LinearRegression
model = LinearRegression() #创建线性回归模型
model.fit(x.reshape(-1,1),data.y) #进行拟合，将dataframe转换为ndarray形式,将xtrain转换为列维度
model.coef_  #查看斜率，即y=ax+b中的a
model.intercept_ #查看截距，即y=ax+b中的b
print('计算出来的值，a=%f,,,,b=%f'%(model.coef_,model.intercept_))  #计算出来的值，a=1.971347,,,,b=-0.318485
print('拟合函数为，y = %f * x  + %f'%(model.coef_,model.intercept_))  #拟合函数为，y = 1.971347 * x  + -0.318485

我们可以看出，其实这三种方法都可以计算出来，且值都非常接近（小数点问题而已），下面再画一下误差图

# 将相关结果进行绘图显示出来
fig = plt.figure()
ax = plt.subplot(111)
ax.scatter(x,y,marker='.',color='k',label='实际值')
plt.plot(x,y2,color='b',label='拟合线')
#这步是画误差值
plt.scatter(x,y,marker='.',color='k',label='原值')
plt.scatter(x,y2,marker='x',color='k',label='原值拟合值')
plt.plot([x,x],[y,y2],color='g')  #误差线
plt.title('误差线图')
plt.show() 

 文章参考这两位同学：

https://zhuanlan.zhihu.com/p/73494604?utm_source=qq

https://zhuanlan.zhihu.com/p/277698407