5-20日报

在线（online）学习和批量（batch）学习

批量学习：这种学习方式首先要准备一定量的样本数据集资料，将数据集送给模型训练，训练之后即将模型投入生产。其优点是简单，不考虑后来喂入的数据如何优化算法，缺点是模型适应环境变化的能力弱。解决办法是定时重新批量学习，但是计算开销大。
在线学习：训练过程批量学习一样，不同的是在线学习的输入样例也参与模型训练，迭代更新模型。在线学习的优点是及时反应环境变化，但新的数据可能带来不好的变化，比如一些离群点和不正常数据点。解决办法是及时进行异常值检测。

参数学习和非参数学习

参数学习：是对模型做一些规律（函数）性假设，一旦学习到参数，就不再需要原有的数据集执行预测了，如线性回归确定线性模型参数，参数确定后，执行预测时按函数运算就行而无需数据集值的作用。
非参数学习：不对模型做过多假设，参与训练的数据集通常都要参与预测。但非参数学习并不意味没有参数，而是并不对整个问题进行某种模型定义。