模式识别

[希腊]SergiosTheodoridis , KonstantinosKoutroumbas .4Edition 电子工业2010.中文版。

2013-03-13题，虽然这本书只看到了第二章，已经可以看出，长期以来，缺少的经典基础课本，就是这一本啊。看论文不懂的技术这里都能有解释，非常全面。

第一章　导论

目的将对象进行分类。

视觉字符辅助诊断语音识别数据挖掘和知识探索

有监督Supervised Pattern Recognition 、无监督和半监督学习Unsupervised Pattern Recogniton /Clustering.

聚类算法可以用来完成对l维特征向量的分组。

无监督识别主要用于确定两个特征向量之间的“相似度”以及合适的测度。并选取一个计算方案，基于选定的相似性测度对向量进行聚类分组。

原始未知类别的模式，未标记数据；书籍类别的训练模式，标记数据。当系统设计者得到数量有限的标记数据时，半监督模式就很重要了。

2－10章讲有监督模式识别。11－16章讲无监督模式识别。

2章讲用于估计未知概率密度函数的贝叶斯分类技术。重点关注贝叶斯分类、最小距离（欧几里德距离和马哈拉诺比斯距离）、最近邻分类器、相互贝叶斯分类器。

3章讲线性分类器的设计。具体讨论均方理论的概率估计性质，并简单介绍偏差－方差的难题。重点讲述了线性可分性、感知器算法、均方和最小二乘。

4章讲非线性分类器的设计，重点介绍了cover宣和径向基函数RBF网络。简单介绍了非线性支持向量机、决策树和联合分类器。

5章讲特征选择，尽可能介绍现有技术。重点在t检验，因为假设检验有广泛的应用。重点是两类的fisher线性判别法LDA

6章讲如何利用下次变换进行特征提取。介绍KL变换和奇异值分解。离散小波变换。

7章讲图像和声音分类中的特征提取。侧重于一阶和魂不附体统计特征及行程长度方法。

8章讲模板匹配。介绍了动态规划和viterbi算法。并应用于语音识别。重点放在动态规划和viterbi算法上。

9章讲上下文输电网。介绍了隐马尔可夫模型。

10章讲系统评估和半监督学习。讨论各种误差评估技术。留一法和重替代法是。

11章讲聚类的基本概念。并介绍最通用的近邻测度法。

12章讲顺序聚类算法。包括一些最简单的聚类方案。

13章讲层次聚类算法。重点在矩阵理论的单一连接和完全连接算法方面。

14章讲基于代价函数最倚翠的聚类算法。主要应用微分工具。重点讲isodata算法。

15章讲不同的聚类算法。竞争学习，分支和约束，模拟退火及遗传算法。

16章讲聚类过程的聚类有效性。

第二章　基于贝叶斯决策理论的分类器

贝叶斯决策理论：最小化分类错误率，最小平均风险，损失矩阵，

判别函数和决策面，

正态分布的贝叶斯分类：高斯概率密度函数，贝叶斯分类器是二次曲线分类器。最小距离分类器，

未知概率密度函数的估计：最大似然参数估计，最大后验概率估计，贝叶斯推论，最大熵估计，混合模型，非参数估计，pazzen窗，朴素贝叶斯，