第二次作业

2 利用程序huff_enc和huff_dec进行以下操作（在每种情况下，利用由被压缩图像生成的码本）

（a）对Sena、Sensin和Omaha图像时行编码。

4.一个信源从符号集A={a1,a2,a3,a4,a5}中选择字母，概率为P(a1)=0.15,P(a2)=0.04,P(a3)=0.26,P(a4)=0.05,P(a5)=0.50

（a）计算这个信源的熵。

（b）求这个信源的霍夫曼编码。

（c）求（b）中代码的平均长度及其冗余度。

答：（a）H=-0.15*log_2*0.15-0.04*log_2*0.04-0.26*log_2*0.26-0.05*log_2*0.05-0.50*log_2*0.50

=0.15*2.737+0.04*4.644+0.26*1.943+0.05*4.322+0.50*1

=0.411+0.186+0.505+0.216+0.5

=1.818(bits)

（b）

a₁的编码为：110

　　　　　　　a₂的编码为：1111

　　　　　　　a₃的编码为：10

　　　　　　　a₄的编码为：1110

　　　　　　　a₅的编码为：0

（c）l=0.15*3+0.04*4+0.26*2+0.05*4+0.5*1=1.83

1.83-1.818=0.012

5 一个符号集A={a₁, a₂, a₃, a₄,}，其概率为P（a₁）=0.1，P（a₂）=0.3，P（a₃）=0.25，P（a₄）=0.35，使用以下过程找出一种霍夫曼码：

（a）本章概述的第一种过程：

（b）最小方差过程。

解释这两种霍夫曼码的区别。

答：（a）1.将信源符号出现的概率排列

2.将两个最小的概率组合相加，并继续这一步，到概率达到1；

3.将上面的赋值为1，下面的赋值为0；
4.顺序记下路径的1和0，所得即为霍夫曼码字

a₁:111

a₂:10

a₃:110

a₄:0

平均码长L=0.1*3+0.3*2+0.25*3+0.35*1=2

（b）a₁：00

a₂：10

a₃：01

a₄：11

6、在本书配套的数据中有几个图像和语音文件。

(a) 编写一段程序，计算其中一些图像和语音文件的一阶熵。

(b) 选择一个图像文件，计算其二阶熵。试解释一阶熵与二阶熵的差别。

答：