熵编码的数学基础是基于事件的概率分布，对于大概率事件采用较短的编码，小概率事件采用较长的编码。
对于不同的概率分布选择的算法也就不一样。比如run-length编码、哥伦布编码就比较适合于概率密度函数服从几何分布或者是拉普拉斯分布，但是如果出现一些噪声或者离群数据，将导致编码效率极大的降低。
几个概念：
LSB:Least significant bit
http://en.wikipedia.org/wiki/Least_significant_bit
几何分布
http://zh.wikipedia.org/wiki/%E5%B9%BE%E4%BD%95%E5%88%86%E4%BD%88
拉普拉斯分布：
http://zh.wikipedia.org/wiki/%E6%8B%89%E6%99%AE%E6%8B%89%E6%96%AF%E5%88%86%E5%B8%83
Prefix code
http://en.wikipedia.org/wiki/Prefix_code
Rice codes、Golomb codes、Rice-Golomb codes、exponential Golomb codes 具体算法以及设计理念：
http://files.cnblogs.com/irish/PFC_Marcial_Clotet.pdf