摘要：
此熵不是智商、情商、逆境商。最开始是热力学的概念，后来被祖师爷香农用来表示信息/信源的不确定度。自信息量信源符号 \(x_i\) 本身的不确定度，称为其自信息量，记为 \(I(x_i)\)\[I(x_i) = H(x_i) = \log_2\frac{1}{p(x_i)}\]单符号离散信源的熵如果一个单符号离散无记忆信源的信息符号可以表示为一个独立的离散随机变量 \(X\)，则称这个随机变量的平均... 阅读全文
2017年10月29日
