第五次作业

3.证明：I(X;Y)=H(X)-H(X|Y)。

       

9.没有冗余度的信源还能不能压缩？为什么？

       答案：没有冗余度的信源还能压缩：不能进行无损压缩，可以进行有损压缩，因为没有冗余度的信源进行无损压缩的话还是与原来的一样，信息量并不能减小，不能达到压缩的目的，一定要压缩的话只能进行信息的丢失，也就是有损压缩，对于没有冗余度的信源，我们只能进行有损压缩，不能进行无损压缩。

12.等概率分布的信源还能不能压缩？为什么？你能举例说明吗？

       答案：.等概率分布的信源是可以进行压缩的，最少有有损压缩。因为‘等概率“并不能表示他们没有相关，没有产生信息的冗余；举例：方波信号或者锯齿信号的均匀取样值。

15.有人认为：“图像的负片（黑白颠倒）比正片更容易压缩”，你同意他的观点吗？为什么？

       答案：我不同意他的观点，因为负片与正片的信息熵都是相同的，也就是说该图像的冗余度是相同的，所以压缩的容易程度是一样的。

16.有人认为：“相关的信源是非等概率分布的”。你同意他的观点吗？为什么？

       答案：我同意他的观点，因为我们知道只要信源不是等概率分布，就存在着数据压缩的可能性。相关信源存在冗余度，能够进行有损和无损压缩，故相关信源是非等概率分布的。