2025年2月7日
【数学】信息论之从熵、惊奇到交叉熵、KL散度和互信息
摘要： 转自：https://www.cnblogs.com/justLittleStar/p/17322197.html 一、熵（PRML） 考虑将A地观测的一个随机变量x，编码后传输到B地。这个随机变量有8种可能的状态，每个状态都是等可能的。为了把x的值传给接收者，需要传输一个3-bits的消息。注意， 阅读全文
posted @ 2025-02-07 10:07 有何m不可 阅读(28) 评论(0) 推荐(0) 编辑
点击右上角即可分享
微信分享提示