2022年1月11日
机器学习笔记十：各种熵总结
摘要： 一.什么是熵Ⅰ.信息量首先考虑一个离散的随机变量x,当我们观察到这个变量的一个具体值的时候,我们接收到多少信息呢? 我们暂时把信息看做在学习x的值时候的”惊讶程度”(这样非常便于理解且有意义).当我们知道一件必然会发生的事情发生了,比如往下掉的苹果.我们并不惊讶,因为反正这件事情会发生,因此可以认为 阅读全文
posted @ 2022-01-11 22:20 常给自己加个油 阅读(604) 评论(0) 推荐(0) 编辑