机器学习算法分类及其评估指标笔记

机器学习的入门，我们需要的一些基本概念：

机器学习的定义

M.Mitchell《机器学习》中的定义是：

对于某类任务T和性能度量P，如果一个计算机程序在T上以P衡量的性能随着经验E而自我完善，那么我们称这个计算机程序从经验E中学习。

 

算法分类

两张图片很好的总结了（机器学习）的算法分类：

 

SKLearn算法选择

 

评估指标

分类（Classification）算法指标：

• Accuracy准确率
• Precision精确率
• Recall召回率
• F1 score

对于分类问题的结果可以用下表表示（说明：True或者False代表预测结果是否正确，Positive和Negative代表被程序找出的结果）：

 

 

Accuracy准确率

准确率的定义是对于给定的测试数据集，分类器正确分类的样本数与总样本数之比。公式为：

准确率存在准确率悖论的缺陷，参考这里的具体说明。

Precision精确率

精确率是从预测结果的角度来考察。精确率计算的是： 预测结果中符合实际值的比例，可以理解为没有“误报”的情形，公式为：

 

Recall 召回率

召回率是从原来的样本角度考察。召回率计算的是：正确分类的数量与所有“应该”被正确分类（符合目标标签）的数量的比例，可以理解为召回率对应的没有“漏报”的情形。公式为：

 F1 score

F1 值是精确率和召回率的调和均值，定义为：

即，

 

应用场景：

准确率和召回率是互相影响的，理想情况下肯定是做到两者都高，但是一般情况下准确率高、召回率就低，召回率低、准确率高，当然如果两者都低，那是什么地方出问题了。当精确率和召回率都高时，F1的值也会高。在两者都要求高的情况下，可以用F1来衡量。

1. 地震的预测
   对于地震的预测，我们希望的是RECALL非常高，也就是说每次地震我们都希望预测出来。这个时候我们可以牺牲PRECISION。情愿发出1000次警报，把10次地震都预测正确了；也不要预测100次对了8次漏了两次。
2. 嫌疑人定罪
   基于不错怪一个好人的原则，对于嫌疑人的定罪我们希望是非常准确的。及时有时候放过了一些罪犯（recall低），但也是值得的。

 

回归(Regression)算法指标：

• Mean Absolute Error平均绝对偏差
• Mean Squared Error均方误差
• R² score
• Explained Variance Score

 平均绝对误差

公式：

 

均方误差

 

公式：

 

R² score

即“Coefficient of determination"决定系数，判断的是预测模型和真实数据的拟合程度，最佳值为1，可为负值。

y¯¯¯=1n∑ni=1yi

 

Explained Variance Score

 

 

Reference

【1】：http://scikit-learn.org

【2】：机器学习概念参考：http://underthehood.blog.51cto.com/2531780/577854

【3】：机器学习总结： 链接