模式识别(使用Python分析与实现微课视频版高等学校电子信息类专业系列教材)

本书依据作者多年从事 模式识别教学和研究的体会 ，并参考相关文献编写而成 ，概括地介绍模式识别理论 和技术的基本概念、原理、 方法和实现。 全书共分为11章，每章 阐述模式识别中的一个知识 点，内容包括贝叶斯决策、 概率密度函数的估计。线性 判别分析、非线性判别分析 、组合分类器、无监督模式 识别、特征选择、特征提取 、半监督学习以及人工神经 网络。本书除了经典算法以 外，增加了部分较新的理论 和算法，读者可以选择性地 学习。本书还配以PPT课件 、Python仿真程序和实验指 导书，便于教和学。 本书可以作为高等学校 人工智能、计算机、信息、 自动化、遥感、控制等专业 本科生或研究生的教材或参 考书，也可以作为从事相关 研究与应用人员的参考用书 。

蔡利梅，中国矿业大学信息与控制工程学院副教授。长期从事图像处理与模式识别领域的教学和研究工作。先后开设“图像处理”“模式识别”“计算机图形学”“数字视频技术”“图像分析及识别”等多门本科生及研究生课程。获教育部高等学校科学技术进步奖二等奖、河南省科技进步奖二等奖、江苏省科学技术奖三等奖、中国煤炭工业协会科学技术奖一等奖等省部级以上科技奖励8项，并获得其他科技奖励6项；申请国家发明专利4项（已获授权2项）；出版教材1部；获校级优秀教学成果一等奖1项，全国煤炭行业教育教学成果奖三等奖1项。

第1章 绪论 微课视频4分钟 1.1 模式识别的基本概念 1.2 模式识别方法 1.3 模式识别系统 1.4 模式识别的应用 1.5 仿真环境与工具简介 习题 第2章 贝叶斯决策 微课视频15分钟 2.1 贝叶斯决策的基本概念 2.2 最小错误率贝叶斯决策 2.2.1 决策规则 2.2.2 错误率 2.2.3 仿真实现 2.3 最小风险贝叶斯决策 2.3.1 决策规则 2.3.2 两种贝叶斯决策的关系 2.4 朴素贝叶斯分类器 2.5 NeymanPearson决策规则 2.6 判别函数和决策面 2.7 正态分布模式的贝叶斯决策 2.7.1 正态概率密度函数 2.7.2 正态概率模型下的最小错误率贝叶斯分类器 2.7.3 仿真实现 2.8 贝叶斯决策的实例 习题 第3章 概率密度函数的估计 微课视频6分钟 3.1 基本概念 3.2 参数估计 3.2.1 最大似然估计 3.2.2 最大后验估计 3.2.3 贝叶斯估计 3.3 非参数估计 3.3.1 直方图方法 3.3.2 Parzen窗法 3.3.3 kN近邻密度估计法 3.4 最小错误率贝叶斯决策的实例 习题 第4章 线性判别分析 微课视频17分钟 4.1 基本概念 4.1.1 线性判别函数 4.1.2 广义线性判别函数 4.1.3 线性判别函数的设计 4.2 Fisher法 4.2.1 基本原理 4.2.2 准则函数及求解 4.2.3 分类决策 4.2.4 仿真实现 4.3 感知器算法 4.3.1 基本概念 4.3.2 感知器准则函数及求解 4.3.3 仿真实现 4.4 最小二乘法 4.4.1 平方误差和准则函数 4.4.2 均方误差准则函数 4.4.3 仿真实现 4.5 支持向量机 4.5.1 最优分类超平面与线性支持向量机 4.5.2 非线性可分与线性支持向量机 4.5.3 核函数与支持向量机 4.5.4 仿真实现 4.6 多类分类问题 4.6.1 化多类分类为两类分类 4.6.2 多类线性判别函数 4.6.3 纠错输出编码方法 4.7 线性判别分析的实例 习题 第5章 非线性判别分析 微课视频11分钟 5.1 近邻法 5.1.1 最小距离分类器 5.1.2 分段线性距离分类器 5.1.3 近邻法及仿真实现 5.2 二次判别函数 5.3 决策树 5.3.1 基本概念 5.3.2 决策树的构建 5.3.3 过学习与决策树的剪枝 5.3.4 仿真实现 5.4 Logistic回归 5.4.1 基本原理 5.4.2 多类分类任务 5.4.3 仿真实现 5.5 非线性判别分析的实例 习题 第6章 组合分类器 微课视频12分钟 6.1 组合分类器的设计 6.1.1 个体分类器的差异设计 6.1.2 分类器性能度量 6.1.3 组合策略 6.2 Bagging算法 6.3 随机森林 6.4 Boosting算法 6.4.1 AdaBoost算法 6.4.2 多类分类AdaBoost算法 6.4.3 GradientBoosting算法 6.5 组合分类的实例 习题 第7章 无监督模式识别 微课视频3分钟 7.1 聚类算法的基本概念 7.2 相似性测度 7.2.1 样本相似性测度 7.2.2 点和集合之间的相似性测度 7.2.3 集合和集合之间的相似性测度 7.3 动态聚类算法 7.3.1 C均值聚类算法 7.3.2 ISODATA算法 7.4 层次聚类算法 7.4.1 分裂层次聚类 7.4.2 合并层次聚类 7.4.3 仿真实现 7.5 高斯混合聚类算法 7.5.1 高斯混合分布 7.5.2 高斯混合聚类 7.5.3 EM算法 7.5.4 仿真实现 7.6 模糊聚类算法 7.6.1 模糊集合的基本知识 7.6.2 模糊C均值聚类算法 7.7 密度聚类算法 7.8 聚类性能度量 7.8.1 外部准则 7.8.2 内部准则 7.9 聚类分析的实例 习题 第8章 特征选择 微课视频9分钟 8.1 概述 8.2 特征的评价准则 8.2.1 基于类内类间距离的可分性判据 8.2.2 基于概率分布的可分性判据 8.2.3 基于熵函数的可分性判据 8.2.4 基于统计检验的可分性判据 8.2.5 特征的相关性评价 8.3 特征选择的优化算法 8.3.1 特征选择的最优算法 8.3.2 特征选择的次优算法 8.3.3 特征选择的启发式算法 8.4 过滤式特征选择方法 8.5 包裹式特征选择方法 8.6 嵌入式特征选择方法 习题 第9章 特征提取 微课视频3分钟 9.1 概述 9.2 基于类可分性判据的特征提取 9.3 KL变换 9.3.1 KL变换的定义 9.3.2 KL变换的性质 9.3.3 信息量分析 9.3.4 奇异值分解 9.3.5 仿真实现 9.4 独立成分分析 9.4.1 问题描述 9.4.2 ICA算法 9.4.3 仿真实现 9.5 非负矩阵分解 9.6 稀疏滤波 9.7 多维尺度法 9.7.1 经典尺度法 9.7.2 度量型MDS法 9.7.3 非度量型MDS法 9.7.4 等度量映射 9.8 tSNE算法