摘要: 交叉熵(Cross-Entropy) 交叉熵是一个在ML领域经常会被提到的名词。在这篇文章里将对这个概念进行详细的分析。 1.什么是信息量? 2.什么是熵? 可以看出,当两种取值的可能性相等时,不确定度最大(此时没有任何先验知识),这个结论可以推广到多种取值的情况。在图中也可以看出,当p=0或1时, 阅读全文
posted @ 2018-05-10 16:59 静悟生慧 阅读(309) 评论(0) 推荐(0) 编辑