模式识别(模式识别与机器学习第4版新编信息控制与系统系列教材)

本书是清华大学自动化 系国家精品课程“模式识别 基础”和“模式识别与机器学 习”的教材，在清华大学出 版社1988年m版的《模式识 别》第1版、2000年出版的 《模式识别》第2版和2010 年出版的《模式识别》第3 版的基础上重写而成。由于 模式识别和机器学习在近十 年来有非常大的新发展，同 时读者对内容深度和广度的 需求也大幅提高，第4版在 原有基础上增加了大量新内 容，从原来的lO章增加为15 章，总篇幅增加了约1/3。 本书系统地介绍了模式识别 与机器学习的基本概念和代 表性方法，既包括贝叶斯决 策理论、概率密度函数估计 、贝叶斯网络与隐马尔可夫 模型、线性判别函数、非线 性判别函数、人工神经网络 、支持向量机与统计学习理 论、近邻法、决策树与随机 森林、集成学习、特征选择 提取与特征工程、非监督学 习等各种经典方法与理论， 也包括卷积神经网络、循环 神经网络与LSTM、深度信 念网络、深度白编码器、限 制性玻尔兹曼机、生成对抗 网络等代表性的深度学习方 法，还包括了对常用机器学 习软件平台的介绍。教材整 体安排力求系统性与实用性 相结合，兼顾机器学习与模 式识别领域各种主要流派， 覆盖学科发展最前沿，并在 各章节中加入了作者对相关 理论与方法的思考和讨论。 本书可以作为高等院校 信息类、智能类、数据科学 类专业的研究生和高年级本 科生学习模式识别与机器学 习的教材，也可以供各行各 业学习和应用机器学习与模 式识别的研究者、学生和丁 程技术人员参考。

张学工，1989年毕业于清华大学，1994年获得博士学位，现为清华大学自动化系教授，清华信息科学与技术国家实验室（筹）生物信息学研究部主任，主要研究方向是模式识别与机器学习、生物信息学与计算生物学。已经在国内外重要期刊发表论文200多篇，出版教材2部、译著2部，曾获国家科技进步二等奖，2006年获得国家杰出青年基金，2009年获国家级教学成果一等奖，所开设的《模式识别基础》课程2007年被评为国家级精品课。

第1章 概论 1.1 模式与模式识别 1.2 模式识别的主要方法 1.3 监督模式识别与非监督模式识别 1.4 模式识别系统举例 1.5 模式识别系统的典型构成 1.6 本书的主要内容 第2章 统计决策方法 2.1 引言：一个简单的例子 2.2 最小错误率贝叶斯决策 2.3 最小风险贝叶斯决策 2.4 两类错误率、Neyman-Pearson决策与ROC曲线 2.5 正态分布时的统计决策 2.5.1 正态分布及其性质回顾 2.5.2 正态分布概率模型下的最小错误率贝叶斯决策 2.6 错误率的计算 2.6.1 正态分布且各类协方差矩阵相等情况下错误率的计算 2.6.2 高维独立随机变量时错误率的估计 2.7 离散时间序列样本的统计决策 2.7.1 基因组序列的例子 2.7.2 马尔可夫模型及在马尔可夫模型下的贝叶斯决策 2.7.3 隐马尔可夫模型简介 2.8 小结与讨论 第3章 概率密度函数的估计 3.1 引言 3.2 最大似然估计 3.2.1 最大似然估计的基本原理 3.2.2 最大似然估计的求解 3.2.3 正态分布下的最大似然估计 3.3 贝叶斯估计与贝叶斯学习 3.3.1 贝叶斯估计 3.3.2 贝叶斯学习 3.3.3 正态分布时的贝叶斯估计 3.3.4 其他分布的情况 3.4 概率密度估计的非参数方法 3.4.1 非参数估计的基本原理与直方图方法 3.4.2 kN近邻估计方法 3.4.3 Parzen窗法 第4章 隐马尔可夫模型与贝叶斯网络 4.1 引言 4.2 贝叶斯网络的基本概念 4.3 隐马尔可夫模型（HMM） 4.3.1 HMM评估问题 4.3.2 HMM隐状态推断问题（解码问题） 4.3.3 HMM学习问题 4.4 朴素贝叶斯分类器（Naive Bayes） 4.5 在贝叶斯网络上的条件独立性 4.6 贝叶斯网络模型的学习 4.6.1 贝叶斯网络的参数学习 4.6.2 贝叶斯网络的结构学习