摘要: ## 信息熵 不同的话语包含的信息量是不一样的。一句短小的话可能包含着很大的信息量,而一句冗长的话可能只含有一点点信息量。因此我们想知道一句话所包含的信息量,但看它的长度肯定是不对的,而是应该看它以最好的方式被压缩以后长度是多少。 我们把一句话看作一个二进制串,更一般地,一句话应当是一个随机生成的二 阅读全文
posted @ 2023-05-23 16:31 DennyQi 阅读(45) 评论(0) 推荐(0) 编辑