第五次作业

3-9  没有冗余度的信源还能不能压缩?为什么?

       答:能,但是只能进行有损压缩。我们先来看一下冗余度得定义,冗余度:通俗的讲就是数据的重复度,在一个数据集合中重复的数据称为数据冗余。而压缩的定义是:压缩:以最少的数码表示信源所发出的信号,减少容纳给定消息集合或数据采集集合的信号空间。从它们的定义可以看出,没有冗余度的信源是还可以被压缩的,例如这样一句话,“请把茶叶放到这个罐子里”,虽然这句话看上去已经没有重复了,这就说明这句话的冗余度可以说是没有的,但我们还可以对它压缩,“茶叶放到罐子里”,这样在存储这句话的时候,空间便被节省下来了。

3-10  不相关的信源还能不能压缩?为什么?

       答:能,但是只能进行有损压缩。 理由 :信源的相关性是信源符号间的依赖程度的度量。由于信源输出符号间的依赖关系也就是信源的相关性使信源的实际平均互信息减小。当信源输出符号间彼此不存在依赖关系且为等概率分布时,信源的实际熵等于最大熵(冗余度:D=1-H(x)/HMAX(x))。

3-12  等概率分布的信源还能不能压缩?为什么?你能举例说明吗?

       答:能,但是只能进行有损压缩。因为等概率分布的信源不代表他们之间不相关,可能他们是相关的。如果有存在相关得这种情况,我们是可以进行有损压缩。

3-15  有人认为:“图像的负片(黑白颠倒)比正片更容易压缩”。你同意他的观点吗?为什么?

       答:不同意,因为图像不管是它的负片还是正片,它们所带给我们的信息是一样的,也就是说它们的熵是一样,所以在对它们进行压缩的时候,难易程度是一样的。

3-16  有人认为:“相关的信源是非等概率分布的”。你同意他的观点吗?为什么?

       答:同意。比如说,在一个不透明的黑盒子里,放入5个红球,4个黄球,3个黑球,每次随机地从盒子里取出一个球,并观察它的颜色且不放回。当第一次摸球的时候,每个球的概率都是1/12(而且取出红色球的概率是5/12,取出黄球的概率是4/12,取出黑球的概率是3/12),如果第一次取出的是红球,那么第二次再去取的时候,取到各种颜色的概率分别是4/11,4/11,3/11;如果第一次取出的是黄球,那么取到各种颜色的概率分别是5/11,3/11,3/11;如果第一次取出的是黑球,那么第二次再去取的时候,取到各种颜色的概率分别是5/11,4/11,2/11;根据计算可知,第一次取到的小球颜色会影响第二次取出的小球颜色,所以,相关的信源是非等概率分布的。

原文地址:https://www.cnblogs.com/lixuli2013/p/4863237.html