模型的度量
参考《机器学习》,周志华,清华大学出版社
第二章
回归问题
回归任务常用的度量指标是:均方误差
\[E(f;D)=\frac {1}{m}\sum^{m}_{i=1}(f(x_{i})-y_{i})^{2}
\]
分类问题
分类任务中常用的性能度量指标是:错误率、精度
错误率:分类错误的样本数/样本总数
精度:分类正确的样本数/样本总数
预测结果 | ||
---|---|---|
真实情况 | 正例 | 反例 |
正例 | TP 真正例 | FN 假反例 |
反例 | FP 假正例 | TN 真反例 |
查准率precision:
\[P=\frac {TP}{TP+FP}
\]
查全率recall:
\[R=\frac {TP}{TP+FN}
\]
P-R曲线
以查准率为横轴,以查全率为纵轴,得到查准率、查全率曲线,简称“P-R”曲线。
平衡点
查全率 = 查准率
F1
\[F1 = \frac {2\times P \times R } {P+R}
\]
真正例率:
\[TPR = \frac {TP}{TP+FN}
\]
假正例率:
\[FPR = \frac {FP} {TN+FP}
\]
ROC曲线
研究学习器的泛化能力
横轴假正例率,纵轴真正例率,得到ROC曲线
AUC
ROC曲线下的面积,称为AUC