第二次作业

一、 参考书《数据压缩导论（第4版）》Page 66

2、 利用程序huff_enc和huff­_dec进行以下操作（在每种情况下，利用由被压缩图像生成的码本）。

（a)对Sena、Sinan和Omaha图像时行编码。

图像	压缩前	压缩后	压缩比
Sena	64KB	56.1KB	87.7%
Sinan	64KB	60.2KB	94%
Omaha	64KB	57.0KB	89%

4 、一个信源从符号集A={a1, a2, a3, a4, a5}中选择字母，概率为P（a1）=0.15，P（a2）=0.04，P（a3）=0.26，P（a4）=0.05，P（a5）=0.50。

（a）计算这个信源的熵。

（b）求这个信源的霍夫曼码。

（c） 求（b）中代码的平均长度及其冗余度。

(a)解：H=-ЕP(ai)logP(Ai)

=-( P(a1)log2P(a1)+P(a2)log2P(a2)+P(a3)log2P(a3)+P(a4)log2P(a4)+P(a5)log2P(a5) )

= -0.15log2 (0.15)-0.04log2 (0.04)-0.26log2 (0.26)-0.05log2 (0.05)-0.50log2 (0.50)

=0.41+0.19+0.51+0.22++0.50

=1.83(bits)

(b) 解：由题意可得

a1:000

a2:0011

a3:01

a4:0010

a5:1

(c)解：l=0.15*3+0.04*4+0.26*2+0.05*4+0.5*1=1.83

l-H=0;

5 、 一个符号集A={a1, a2, a3, a4,}，其概率为P（a1）=0.1，P（a2）=0.3，P（a3）=0.25，P（a4）=0.35，使用以下过程找出一种霍夫曼码：

（a）本章概述的第一种过程：

（b）最小方差过程。

解释这两种霍夫曼码的区别。

答：（a）a1:001

a2:01

a3:000

a4:1

平均长度L=3*0.1+2*0.3+3*0.25+1*0.35=2

（b）a1:11

a2:01

a3:10

a4:00

平均长度L=2*0.1+2*0.3+2*0.25+2*0.35=2

第一种过程：

S2=0.1(3-2)2+0.3(2-2)2+0.25(3-2)2+0.35(1-2)2

=0.70

第二种过程：

S2=0.1(2-2)2+0.3(2-2)2+0.25(2-2)2+0.35(2-2)2

=0

由此可见，最小方差过程是第二种。

6 、在本书配套的数据中有几个图像和语音文件。

(a) 编写一段程序，计算其中一些图像和语音文件的一阶熵。

(b) 选择一个图像文件，计算其二阶熵。试解释一阶熵与二阶熵的差别。

(c) 对于(b)中所有的图像文件，计算其相邻像素之差的熵，试解释你的发现。

答：

调试结果如下表所示：

文件名	一阶熵	二阶熵	差分熵
BERK.RAW	7.151537	6.705169	8.976150
EARTH.IMG	4.770801	2.568358	3.962697
GABE.RAW	7.116338	6.654578	8.978236
OMAHA.IMG	6.942426	4.488626	6.286834
SENA.IMG	6.834299	3.625204	3.856899
SENSIN.IMG	7.317944	4.301673	4.541547

由此可得出结论：图像一阶熵的值都比二阶熵的值大，而RAW格式的差分熵都比一、二阶熵大；但是IMG格式的差分熵位于一、二阶熵之间。