100-Days-Of-ML-Code 评注版(Day 2)

Day2_Simple_Linear_Regression(一元线性回归)

本文引用自 Simple Linear Regression, 对其中内容进行了评注与补充说明。

回归分析是一种预测性的建模技术，它研究的是因变量（目标）和自变量（预测器）之间的关系。这种技术通常用于预测分析，时间序列模型以及发现变量之间的因果关系。线性回归是回归分析中最为常用的一种方法，线性回归是利用数理统计中回归分析，来确定两种或两种以上变量间相互依赖的定量关系的一种统计分析方法，运用十分广泛。其表达形式为\(y=w \times x+e\)，e为误差服从均值为0的正态分布。回归分析中，只包括一个自变量和一个因变量，且二者的关系可用一条直线近似表示，这种回归分析称为一元线性回归分析。如果回归分析中包括两个或两个以上的自变量，且因变量和自变量之间是线性关系，则称为多元线性回归分析。

导入数据

导入数据并划分出训练数据库与测试数据集。

import pandas as pd
import numpy as np
import matplotlib.pyplot as plt

dataset = pd.read_csv('studentscores.csv')
X = dataset.iloc[:, :1 ].values
Y = dataset.iloc[:, 1 ].values

from sklearn.cross_validation import train_test_split
X_train, X_test, Y_train, Y_test = train_test_split( X, Y, test_size = 1/4, random_state = 0) 

进行线性回归

from sklearn.linear_model import LinearRegression
regressor = LinearRegression()
regressor = regressor.fit(X_train, Y_train)

结果预测

将测试数据集输入线性回归方程，计算预测结果。

Y_pred = regressor.predict(X_test)

可视化回归分析结果

plt.scatter(X_train , Y_train, color = 'red')
plt.plot(X_train , regressor.predict(X_train), color ='blue')

plt.scatter(X_test , Y_test, color = 'red')
plt.plot(X_test , regressor.predict(X_test), color ='blue')

其他

需要说明的是，这样简单的做法不是十分正确的，进行线性回归后还要进行假设验证、残差分析，sklearn对这方面支持的并不好，进行严谨的回归分析，还是向大家推荐R。

参考资料

1. 干货 ：这7种回归分析技术 学了不后悔