深度学习基础---线性回归

1. 模型定义 ---将问题转化为数学公式建模

模型就是一个数学公式，例如  

w表示权重，b表示偏差，yhat表示预测值≠标签

2. 模型训练 -- 调整最终参数的过程

1. 训练数据（训练集，样本，标签--真实值，特征--用来预测标签的因素x1,x2）

2. 损失函数（衡量标签（真实值）与预测值之间的误差--->衡量模型的质量，一般为非负）

　　平方损失函数

       模型训练中，根据损失函数找出一组模型参数w，b使损失最小

3. 优化算法

　　1. 解析解：误差最小化问题的解直接用公式表示（大多数不适用）

　　2. 数值解：通过优化算法有限次的迭代降低损失值的这类解

         

 

　　超参数：人为设定，非模型训练出来的 ，其中代表batch size（批量大小）， 称作学习率 

 　　　　调参值得是调节超参数

3.模型预测 （利用最优的模型参数去估计新的房屋价格）

4. 线性回归的表示方法

　　1. 神经网络表示

　　

　　其中，输入层为特征值， 输出层为预测值，  神经元--利用输入层计算输出层的计算表示一个神经元，全连接层（稠密层）--表示利用所有的特征值去计算输出

 

　　2. 矢量计算表达式（也就是矩阵表示）

 

5. 总结： 线性回归是一个单层的神经网络模型，也是一个全连接层，计算时尽量使用矢量计算表达式 效率会高几个量级