模式识别

本书是一本立足于统计模式识别理论，介绍模式识别原理与方法的教材。全书共 7 章，按照监督模式识别和非监督模式识别两类问题组织教材内容，其中重点介绍监督模式识别系统中的分类器设计和特征获取两个核心环节的理论与方法。本书整体内容逻辑线索清晰，关键要点总结全面，同时配有大量的例题，有助于读者阅读和理解。每章后的习题供读者学习使用，同时附带的思考题对启发读者的深入思考有积极意义。 本书适合作为高等院校电子信息类专业及人工智能相关专业的高年级本科生和研究生学习模式识别的教材或参考书，也可供从事模式识别工作的广大科技工作人员参考。建议将全书作为研究生的教学内容，而目录中不带*号的部分可以由教师选择作为本科生课程的内容。

第1章 绪论11.1 模式识别概念与内涵11.2 模式识别问题描述21.2.1 认识模式识别问题21.2.2 模式识别问题基本术语说明31.2.3 特征空间、假设空间与解释空间的关系41.3 模式识别系统组成41.3.1 模式识别系统的基本构成41.3.2 模式识别系统构建的核心问题61.4 模式识别方法分类61.4.1 基于知识和数据的模式识别61.4.2 监督与非监督模式识别81.5 模式识别应用举例91.5.1 人脸识别91.5.2 语音识别91.5.3 字符与文字识别101.5.4 车牌识别101.5.5 故障诊断111.5.6 信用卡风险预警12本章小结12习题13思考题13第2章 基于概率统计的贝叶斯分类器142.1 引言142.2 最小错误率贝叶斯分类器162.2.1 分类决策的错误率及决策规则162.2.2 两类别问题最小错误率贝叶斯决策规则的等价形式162.2.3 决策出错情况分析182.3 最小风险贝叶斯分类器192.3.1 最小风险决策问题表述202.3.2 最小风险贝叶斯决策过程及等价决策规则202.4 N-P决策分类222.5 判别函数与判别面262.6 正态分布下的贝叶斯分类器272.6.1 单变量正态分布272.6.2 多变量正态分布272.6.3 正态分布下的贝叶斯决策292.7 贝叶斯分类器错误率计算322.7.1 正态分布且协方差矩阵相等情况下的贝叶斯分类器错误率计算322.7.2 错误率的实验估计352.8 概率密度函数的参数估计382.8.1 最大似然估计382.8.2 贝叶斯估计和贝叶斯学习402.9 概率密度函数的非参数估计452.9.1 非参数估计基本原理452.9.2 kN近邻估计472.9.3 Parzen窗估计47本章小结49习题50思考题51第3章 线性分类器523.1 引言523.2 线性判别函数几何性质533.3 基于Fisher准则的线性分类器553.4 基于感知器准则的线性分类器603.5 基于均方误差准则的线性分类器633.6* 基于最大间隔距离的超平面和线性支持向量机693.7 多类情况下的线性分类器723.7.1 多个两分类器组合723.7.2 多类线性分类器直接设计74本章小结75习题76思考题77第4章 非线性分类器784.1 引言784.2 分段线性判别函数784.2.1 基于距离的分段线性判别函数784.2.2 一般的分段线性判别函数804.3 二次判别函数824.4 多层感知器神经网络与深度神经网络834.4.1 感知器神经元和感知器834.4.2 多层感知器神经网络的学习864.4.3 用于模式识别的多层感知器神经网络874.4.4 深度卷积神经网络894.5* 广义线性判别函数与支持向量机914.5.1 广义线性判别函数914.5.2 支持向量机924.5.3 常用核函数及其应用934.6* 核函数与核方法944.7 近邻法964.7.1 最近邻决策964.7.2 k-近邻决策984.7.3 近邻法的改进算法994.8 决策树1044.8.1 决策树模型1044.8.2 构建决策树1054.9* Logistic回归113本章小结115习题115思考题116第5章 特征的选择和变换1175.1 引言1175.2 特征可分性准则1175.2.1 基于类内、类间距离的可分性判据1185.2.2 基于概率分布的可分性判据1205.2.3 基于熵的可分性判据1215.3 特征选择算法1225.3.1 特征选择的最优算法1225.3.2 特征选择的次优算法1245.4 特征提取1255.4.1 基于空间分布类别可分性判据的特征提取1265.4.2 K-L变换1275.4.3 PCA分析1305.4.4* MDS分析133本章小结136习题137思考题138第6章 非监督模式识别1396.1 引言1396.2 相似度度量与聚类准则1406.2.1 相似度度量1406.2.2 聚类准则1436.3 基于原型的聚类1456.3.1 k-均值聚类算法1456.3.2 迭代自组织聚类算法1496.3.3* 高斯混合聚类算法1536.4* 基于密度的聚类1566.5 层级化聚类1596.6* 聚类质量评价指标1646.6.1 外部评价指标1656.6.2 内部评价指标165本章小结166习题167思考题168第7章 模式识别模型评估与选择1697.1 引言1697.2 关于误差1697.3 评估方法1707.3.1 留出法1717.3.2 交叉验证法1717.3.3 自助法1727.4 评价指标1737.4.1 错误率和准确率1737.4.2 查准率、查全率和F11737.4.3 P-R、ROC与AUC1747.5* 比较检验1777.5.1 假设检验1777.5.2 交叉验证t检验1797.5.3 McNemar检验1797.5.4 Friedman检验与Nemenyi检验180本章小结182习题182思考题183参考文献184