吴恩达《机器学习》课程总结（11）机器学习系统的设计

11.1首先要做什么

本章将在随后的课程中讲误差分析，然后怎样用一个更加系统性非方法，从一堆不同的方法中，选取合适的那一个。

11.2误差分析

构建一个学习算法的推荐方法为：

（1）从一个简单的能快速实现的算法开始，实现该算法并用交叉验证集数据测试这个算法；

（2）绘制学习曲线，决定是增加更多数据，或者添加更多特征，还是其他选择；

（3）进行误差分析：人工检查交叉验证集中我们算法中产生预测误差的实例，看看这些实例是否有某种系统化的趋势。

在交叉验证集上做误差分析，不要在测试集在做误差分析。

1.3类偏斜的误差度量

举例：恶性肿瘤的概率只有0.5%，这时如果不用神经网络全部预测为两性，其误差为0.5%，而用神经网络可能的出来的误差为1%，显然通过误差率来作为系统好坏的判别标准是不好的，在这种类偏斜的问题中，这时候需要用到精确度（precision，又称查准率）和召回率（recall，又称查全率）。

（1）精确度（precision）：是从预测的视角看，真正为真与预测为真的比值即TP/（TP+FP）。

（2）召回率（recall）：是从样本的视角看，被预测出来的正例与总正例的比值即TP/（TP+FN）。

11.4查准率和查全率之间的权衡

（1）查全率与查准率的关系：

（2）为了有一个单一的指标定义了F1值：

11.5机器学习的数据

有大量的数据（避免了方差），以及足够多的特征（避免了偏差），一般可以得到一个高性能的算法。