1、 参考书《数据压缩导论（第4版）》Page 66 2，4，5
2、利用程序huff_enc和huff_dec进行以下操作（在每种情况下，利用由被压缩图像生成的码本）。
（a）对Sena、Sensin和Omaha图像进行编码。
(b) 编写一段程序，得到相邻像素之差，然后利用huffman对差值图像进行编码。(选作题)
给出以上每一实验得出的文本大小，并解释其差别。
(a) 答：压缩比=文件压缩后/文件压缩前
| 文件名 | 压缩前文件大小 | 压缩后文件大小 | 压缩比 |
| SENA.IMG | 64KB | 57KB | 0.891 |
| SINAN.IMG | 64KB | 61KB | 0.953 |
| OMAHA.IMG | 64KB | 58KB | 0.906 |
(b) 答：
4、一个信源从符号集A={a1,a2,a3,a4,a5}中选择字母，概率为p(a1)=0.15，p(a2)=0.04，p(a3)=0.26，p(a4)=0.05，p(a5)=0.50 。
(a) 计算这个信源的熵
(b) 求出这个信源的霍夫曼码。
(c) 求(b)中代码的平均长度及其冗余度。
答：
(a) 这个信源的熵为：
H=-1*0.15*log(0.15)+(-)1*0.04*log(0.04)+(-)1*0.26*log(0.26)+(-)1*0.05*log(0.05)+(-)1*0.50*log(0.50)
=0.411+0.186+0.505+0.216+0.50
=1.818 bit
(b)霍夫曼码为：
a1:010
a2:0111
a3:00
a4:0110
a5:1
(c) 由(a)知道H=1.818
平均长度为：
l =0.15*3+0.04*4+0.26*2+0.05*4+0.5*1
=1.83 bit
冗余度为：
l-H
=1.83-1.818
=0.012 bit
5、一个符号集A=A={a1,a2,a3,a4}，其概率为p(a1)=0.1，p(a2)=0.3，p(a3)=0.25，p(a4)=0.35，使用以下过程找出一种霍夫曼码：
(a) 本章概述的第一种过程；
(b) 最小方差过程。
解释这两种霍夫曼码的区别。
答：
(a)
| 字母 | 码子 | 概率 | 集合 | 集合的概率 |
| a1 | 001 | 0.1 | a1a2a3a4 | 1 |
| a2 | 01 | 0.3 | ||
| a3 | 000 | 0.25 | ||
| a4 | 1 | 0.35 |
则霍夫曼码为：
a1:001
a2:01
a3:000
a4:1
(b)最小方差为：
根据第二种过程的霍夫曼码为:
a1：00
a2：10
a3：01
a4：11
平均长度为: l=2
则：
第一种方差为:s12=(0.1+0.25)*(3-2)2+0.3*(2-2)2+0.35*(1-2)2=0.7
第二种方差为:s22=(0.1+0.25+0.3+0.35)*(2-2)2=0
由此可知第二种过程得到的是最优码。
Page 30
6.在本书配套的数据中有几个图像和语音文件。
(a) 编写一段程序，计算其中一些图像和语音文件的一阶熵。
(b) 选择一个图像文件，计算其二阶熵。试解释一阶熵与二阶熵的差别。
(c) 对于(b)中所有的图像文件，计算其相邻像素之差的熵，试解释你的发现。
(a) 答：如下图像和语音文件的一阶熵为：
| 文件名 | 一阶熵 | 二阶熵 | 差熵 |
| EARTH.IMG | 4.770801 | 2.568358 | 3.962697 |
| OMAHA.IMG | 6.942426 | 4.488626 | 6.286834 |
| SENA.IMG | 6.834299 | 3.625204 | 3.856989 |
| SENSIN.IMG | 7.317944 | 4.301673 | 4.541547 |
| BERK.RAW | 7.151537 | 6.705169 | 8.976150 |
| GABE.RAW | 7.116338 | 6.654578 | 8.978236 |
(b) 答：我选择图像是OMAHA.IMG，由计算得到他的一阶熵为：6.942426，二阶熵为：4.488626，可以看出二阶熵比一阶熵小。
(c) 答：OMAHA.IMG的差熵为：6.286834，可得差熵比一阶熵小，但比二阶熵大。