机器学习p3p4

一.回归定义
就是找到一个function，输入特征x，输出一个数scalar
二.模型步骤
三步：模型假设（假设线性模型），模型评估（通过损伤函数），模型优化（梯度下降）
1.模型假设：假设为线性模型
分为单个特征的一元线性模型和多个特征的多元线性模型
y = b + Σwixi
2.模型评估：损失函数
损失函数就是所有样本预测值和实际值的差的平方之和，损失函数越小模型越好
3.最佳模型：
梯度下降：对w和b分别求偏导，令结果等于0，可以求出最小损失函数下下的w和b，进而求出f（x）
三.如何验证训练好的模型的好坏
测试数据与function的值差距不能过大（否则欠拟合），function的值与预测数据不能过大（否则过拟合）
多项式次数不能过小也不能过大
四步骤优化
1.两个input的四个线性模型和到一个线性模型中
2.加入更多参数x
3.加入正则化