模型的度量
参考《机器学习》，周志华，清华大学出版社
第二章
回归问题
回归任务常用的度量指标是：均方误差
\[E(f;D)=\frac {1}{m}\sum^{m}_{i=1}(f(x_{i})-y_{i})^{2}
\]
分类问题
分类任务中常用的性能度量指标是：错误率、精度
错误率：分类错误的样本数/样本总数
精度：分类正确的样本数/样本总数
| 预测结果 | ||
|---|---|---|
| 真实情况 | 正例 | 反例 |
| 正例 | TP 真正例 | FN 假反例 |
| 反例 | FP 假正例 | TN 真反例 |
查准率precision：
\[P=\frac {TP}{TP+FP}
\]
查全率recall：
\[R=\frac {TP}{TP+FN}
\]
P-R曲线
以查准率为横轴，以查全率为纵轴，得到查准率、查全率曲线，简称“P-R”曲线。
平衡点
查全率 = 查准率
F1
\[F1 = \frac {2\times P \times R } {P+R}
\]
真正例率：
\[TPR = \frac {TP}{TP+FN}
\]
假正例率：
\[FPR = \frac {FP} {TN+FP}
\]
ROC曲线
研究学习器的泛化能力
横轴假正例率，纵轴真正例率，得到ROC曲线
AUC
ROC曲线下的面积，称为AUC
