一.教材习题:
1-1数据压缩的一个基本问题是“我们要压缩什么”,对此你是怎样理解的?
答:我对数据压缩的一个基本问题是“我们要压缩什么”的理解是:数据的压缩就是对数据冗余的压缩,例如对时间的压缩,对空间的压缩,频域空间的压缩。
1-2 数据压缩的另一个基本问题是“为什么进行压缩”,对此你又是怎样理解的?
答:我对数据压缩的另一个基本问题是“为什么进行压缩”的理解是:1.数据压缩是因为数据存储空间有限 2.数据指数增长
1-3 数据压缩技术是如何分类的?
答:数据压缩技术分类:冗余度压缩(熵编码)和熵压缩,其中冗余度压缩(熵编码)又分为:统计编码 其他编码,熵压缩主要有两大类:特征抽取和量化
二.参考书《数据压缩导论第四版》 page8 1.4
1.4项目与习题:
2-1 用你的计算机上的压缩工具来压缩不同文件。研究原文件的大小和类型对于压缩文件与原文件大小之比的影响。
答:用计算机上的压缩工具来压缩不同文件时,如视频、文档、图片等不同类型的文件,经压缩后发现压缩文件与原文件大小之比的影响是不同的,其中影响对大的事视频、其次是文档、最后是图片。
2-2从一本通俗杂志中摘录几段文字,并删除所有不会影响理解的文字,实现压缩。例如,在“This is the dog that belongs to my friend”中,删除is、the、that和to之后,仍然能传递相同的意思。用被删除的单词数与原文本的总单词数之比来衡量文本中的冗余度。用一本技术期刊中的文字来重复这一试验。对于摘自不同来源的文字,我们能否就其冗余度做出定量论述?
答:对于摘自不同来源的文字,我们不能就其冗余度做出定量论述,因为有的信息的有重复字、词、句等。
三. 参考书《数据压缩导论(第4版)》Page 30 3, 5, 7(a)
2.8项目与习题:
3.给定符号集A={a1,a2,a3,a4},求以下条件的一阶熵:
(a) p(a1)=p(a2)=p(a3)=p(a4)=1/4
(b) p(a1)=1/2, p(a2)=1/4,p(a3)=p(a4)=1/8
(c) p(a1)=0.505, p(a2)=1/4,p(a3)=1/8 ,p(a4)=0.12
解:
由熵公式H=-p(X1)logp(X1) -p(X2)logp(X2)-p(X3)logP(X3) - ------ -P(Xn)logp(Xn)知:
(a): H(a)=-1/4*log21/4 -1/4*log21/4 -1/4*log21/4 -1/4*log21/4
=1/2+1/2+1/2+1/2
= 2(bit)
(b): H(b)=-1/2*log21/2 -1/4*log21/4 -1/8*log21/8 -1/8*log21/8
=1/2+1/2+3/8+3/8
=1.75(bit)
(c): H(c)=-0.505*log20.505 -1/4*log21/4 -1/8*log21/8 -0.12*log20.12
~0.5`+1/2+3/8+0.37
=1.745(bit)
5.考虑以下序列:
ATGCTTAACGTGCTTAACCTGAAGCTTCCGCTGAAGAACCTG
CTGAACCCGCTTAAGCTGAACCTTCTGAAGCTTAACCTGCTT
(a) 根据此序列估计各概率值,并计算这一序列的一阶熵。
(b) 根据这些熵,能否推断此序列具有什么样的结构?
解:
由题意可知:以上序列中总共有字母84个,其中A字母共出现21次,
T字母共出现23次,G字母共出现16次,C字母共出现24次。
则P(A)=21/84=1/4;P(T)=23/84;P(G)=16/84=4/21;P(C)=24/84=2/7.
(a) 各字母的概率值如下:
P(A)=21/84=1/4;
P(T)=23/84;
P(G)=16/84=4/21;
P(C)=24/84=2/7.
该序列的一阶熵为:-1/4*log2(1/4)-23/84*log2(23/84)-4/21*log2(4/21)-2/7*log2(2/7)=1.98
(b) 根据这熵,能推断此序列具有的结构是:此序列共由A T G C四个字母组成,其中序列的冗余度隐含存在于非等概率的分布中之中。
3-7 做一个实验,看看一个模型能够多么准确地描述一个信源。
(a) 编写一段程序,从包括26个字母的符号集{a,b,…,z}中随机选择字母,组成100个四字母单词,这些单词中有多少是有意义的?
#include<stdio.h>
#include<stdlib.h>
int main()
{ int i,j;
for(i=1;i<100;i++)
{
for(j=0;j<4;j++)
{
putchar(rand()%1?65+rand()%26:60+rand()%26);
}
putchar('\t');
}
return 0;
}