什么是损失函数？

损失函数（Loss Function）

机器学习模型关于单个样本的预测值与真实值的差称为损失。损失越小，模型越好，如果预测值与真实值相等，就是没有损失。用于计算损失的函数称为损失函数。模型每一次预测的好坏用损失函数来度量。

损失函数特点

• 恒非负
• 误差越小函数值越小
• 收敛快

常见的损失函数（计算）

https://blog.csdn.net/jieming2002/article/details/79226192

1. 0-1损失函数

二类分类任务中，预测值与真实值不同，就是预测错误，则损失是1；

预测值与真实值相等，就是预测正确，损失是 0，就是没有损失。

2. 平方损失函数

预测值与真实值的差的平方。预测误差越大，损失越大。好理解吧。

3. 绝对损失函数

预测值与真实值的差的绝对值。绝对值不方便计算，一般不常用。

4. 对数损失函数

对于预测值是概率的情况，取对数损失。因为概率范围[0, 1] 所以对数值是(-∞, 0) ，为了让损失 > 0 所以取对数的负值。上面的公式里面有个负号。看图像，一目了然哈哈：

 https://zhuanlan.zhihu.com/p/258350972

---

查阅网络知识书写，侵权、有误请指出。

https://blog.csdn.net/jieming2002/article/details/79226192