第二次作业

2、利用程序huff_enc和huff_dec进行以下操作（在每种情况下，利用由被压缩图像生成的码本）。

（a）对Sena、Sensin和Omaha图像进行编码。

4.一个信源从符号集A={a1,a2,a3,a4,a5}中选择字母，概率为P(a1)=0.15,P(a2)=0.04,P(a3)=0.26,P(a4)=0.05,P(a5)=0.50。

（a）计算这个信源的熵。

（b）求这个信源的霍夫曼编码。

（c）求（b）中代码的平均长度及其冗余度。

答：（a）信源的熵：H=-0.15log₂^0.15-0.04log₂^0.04-0.26log₂^0.26-0.05log₂^0.05-0.50log₂^0.50

=0.411+0.186+0.505+0.216+0.5

=1.818(bits/symbol)

（b）

（c）平均码长：L=1*0.5+2*0.26+3*0.15+4*0.05+4*0.04=1.83(bits/symbol)

冗余度：L-H=0.012(bits/symbol)

5.一个符号集A={a1,a2,a3,a4},其概率为P(a1)=0.1,P(a2)=0.3,P(a3)=0.25,P(a4)=0.35,使用以下过程找出一种霍夫曼码：

(a)本章概述的第一种过程；

(b)最小方差过程。

解释这两种霍夫曼码的区别。

答：（a）

平均码长：L=1*0.35+2*0.3+3*0.25+3*0.1=2

方差：S²=0.1(3-2)²+0.3(2-2)²+0.25(3-2)²+0.35(1-2)²=0.7

（b）

得到：a1：00，a2：10，a3:01，a4：11。

平均码长：L=2*0.35+2*0.3+2*0.25+2*0.1=2

方差：S²=0.1(2-2)²+0.3(2-2)²+0.25(2-2)²+0.35(2-2)²=0

6. 在本书配套的数据集中有几个图像和语音文件。

(a)编写一段程序，计算其中一些图像和语音文件的一阶熵。

(b)选择一个图像文件，并计算其二阶熵。试解释一阶熵和二阶熵之间的差别。

(c)对于（b）中所用的图像文件，计算其相邻像素之差的熵。试解释你的发现。

答：