第二次作业
1、 参考书《数据压缩导论（第4版）》Page 66
2 利用程序huff_enc和huff_dec进行以下操作（在每种情况下，利用由被压缩图像生成的码本）。
（a） 对Sena、Sensin和Omaha图像时行编码。
（b） 编写一段程序，得到相邻之差，然后利用huffman对差值图像进行编码。
（c） 使用adap_huff重复（a）和（b）。
答案：（a）。
① 对Sena图像时行编码。
②对Sensin图像时行编码。
③对Omaha图像时行编码.
综上观察得表：
| 压缩前 | 压缩后 | 计算 | ||
| 文件名 | 大小 | 文件名 | 大小 | 压缩比 |
| ①SENA.IMG | 64kb | ①sena.huff | 57kb | 89.0625% |
| ②SINAN.IMG | 64kb | ②sinan.huff | 61kb | 95.3125% |
| ③OMAHA.IMG | 64kb | ③omaha.huff | 58kb | 90.625% |
4 一个信源从符号集A={a1, a2, a3, a4, a5}中选择字母，概率为P（a1）=0.15，P（a2）=0.04，P（a3）=0.26，P（a4）=0.05，P（a5）=0.50。
（a）计算这个信源的熵。
（b）求这个信源的霍夫曼码。
（c）求（b）中代码的平均长度及其冗余度。
解：
(a)H=-0.15*log20.15-0.04*log20.04-0.26*log20.26-0.05*log20.05-0.50*log20.50
=0.547177bit
(b)求这个信源的霍夫曼码。
答：将A排序得：a５（0.50）>a３(0.26)>a１(0.15)>a４(0.05)>a２(0.04)
（c） 求（b）中代码的平均长度及其冗余度。
答：根据平均码长计算公式L＝∑i=1,2,3....np(ai)*l(ai)以及（b）中求出的码长得：
Ｌ＝ｐ(a１)×ｌ(a１)＋ｐ(a２)×ｌ(a２)＋ｐ(a３)×ｌ(a３)＋ｐ(a４)×ｌ(a４)＋ｐ(a５)×ｌ(a５)
＝0.15×3＋0.04×4＋0.26×2＋0.05×4＋0.50×1
=1.83(bits)
冗余度：r=L－H
H=-0.15*log2（0.15）+[-0.04*log2（0.04）]+[-0.26*log2（0.26)]+[0.05*log2（0.05）]+[-0.50*log2（0.50)]
=1.83 - H
5 一个符号集A={a1, a2, a3, a4,}，其概率为P（a1）=0.1，P（a2）=0.3，P（a3）=0.25，P（a4）=0.35，使用以下过程找出一种霍夫曼码：
（a）本章概述的第一种过程：
答：步骤过程：
1.将信源符号案出现概率的大小排序。
2.将两个最小的概率组合相加，并继续这一步骤始终将较高的概率分支放在上部，直到概率达到1为止。
3.对每对组合中的上边一个指定为1，下边一个指定为0（或者相反）。
4.画出由概率1出到每个信源符号概率的路径，顺序记下沿路径的1和0，所得即为该符号的霍夫曼编码。
对其进行霍夫曼编码：
其概率由大到小排列为a4 (0.35)>a2(0.3)> a３(0.25)> a1 (0.1)
（b）最小方差过程。
解释这两种霍夫曼码的区别。
综上两种霍夫曼编码计算得出，其平均码长均为2，
方差第一种：S2=0.1(3-2)2+0.3(2-2)2+0.25(3-2)2+0.35(1-2)2=0.70
方差第二种：S2=0.1(2-2)2+0.3(2-2)2+0.25(2-2)2+0.35(2-2)2 =0
最小方差过程就是在不同的霍夫曼编码中，选择编码的方差最小情况。即选择最优二叉树。所以第二种最优。
2、 参考书《数据压缩导论（第4版）》 Page 30
6. 在本书配套的数据集中有几个图像和语音文件。
(a)编写一段程序，计算其中一些图像和语音文件的一阶熵。
(b)选择一个图像文件，并计算其二阶熵。试解释一阶熵和二阶熵之间的差别。
(c)对于（b）中所用的图像文件，计算其相邻像素之差的熵。试解释你的发现。
答案： 分别对.IMG格式，.txt格式，.RAW格式的一二差分熵的计算：
| 文件名 | 一阶熵 | 二阶熵 | 差分熵 | |
| EARTH.IMG | 4.770801 | 2.568358 | 3.962697 | |
| text.txt | 4.315677 | 3.122731 | 6.099982 | |
| BERK.RAW | 7.151537 | 6.705169 | 83976150 | |
| ....... | ........ | ........ | ....... |
