1.简单的配方
特定的数据集、代价函数、优化过程和模型
2.线性回归算法
X 和 y 构成的数据集
代价函数
最常见的代价函数是负对数似然,最小化代价函数导致的最大似然估计
代价函数也可能含有附加项,如正则化项
模型是 p model (y | x) = N(y;x ⊤ w + b,1)
优化算法可以定义为求解代价函数梯度为零的正规方程