概率图模型

概率图模型将概率论与图论相结合，是当前很好热门的一个机器学习研究方向。本书详细论述了有向图模型（又称贝叶斯网）和无向图模型（又称马尔可夫网）的表示、推理和学习问题，全面总结了人工智能这一前沿研究领域的很新进展。为了便于读者理解，书中包含了大量的定义、定理、证明、算法及其伪代码，穿插了大量的辅助材料，如示例（examples）、技巧专栏（skill boxes）、实例专栏（case study boxes）、概念专栏（concept boxes）等。另外，在第 2章介绍了概率论和图论的核心知识，在附录中介绍了信息论、算法复杂性、组合优化等补充材料，为学习和运用概率图模型提供了完备的基础。 本书可作为高等学校和科研单位从事人工智能、机器学习、模式识别、信号处理等方向的学生、教师和研究人员的教材和参考书。

致谢
插图目录
算法目录
专栏目录
第1章引言
1.1动机
1.2结构化概率模型
1.2.1概率图模型
1.2.2表示、推理、学习
1.3概述和路线图
1.3.1各章的概述
1.3.2读者指南
1.3.3与其他学科的联系
1.4历史注记
第2章基础知识
2.1概率论
2.1.1概率分布
2.1.2概率中的基本概念
2.1.3随机变量与联合分布
2.1.4独立性与条件独立性
2.1.5查询一个分布
2.1.6连续空间
2.1.7期望与方差
2.2图
2.2.1节点与边
2.2.2子图
2.2.3路径与迹
2.2.4圈与环
2.3相关文献
2.4习题
第Ⅰ部分表示
第3章贝叶斯网表示
3.1独立性性质的利用
3.1.1随机变量的独立性
3.1.2条件参数化方法
3.1.3朴素贝叶斯模型
3.2贝叶斯网
3.2.1学生示例回顾
3.2.2贝叶斯网的基本独立性
3.2.3图与分布
3.3图中的独立性
3.3.1d.分离
3.3.2可靠性与完备性
3.3.3d-分离算法
3.3.4I-等价
3.4从分布到图
3.4.1最小I-map
3.4.2P-map
3.4.3发现P-map
3.5小结
3.6相关文献
3.7习题
第4章无向图模型
4.1误解示例
4.2参数化
4.2.1因子
4.2.2吉布斯分布与马尔可夫网
4.2.3简化的马尔可夫网
4.3马尔可夫网的独立性
4.3.1基本独立性
4.3.2独立性回顾
4.3.3从分布到图
4.4参数化回顾
4.4.1细粒度参数化方法
4.4.2过参数化
4.5贝叶斯网与马尔可夫网
4.5.1从贝叶斯网到马尔可夫网
4.5.2从马尔可夫网到贝叶斯网
4.5.3弦图
4.6部分有向模型
4.6.1条件随机场
4.6.2链图模型
4.7总结与讨论
4.8相关文献
4.9习题
第5章局部概率模型
5.1CPD表
5.2确定性CPD
5.2.1表示
5.2.2独立性
5.3特定上下文CPD
5.3.1表示
5.3.2独立性
5.4因果影响的独立性
5.4.1Noisy-or模型
5.4.2广义线性模型
5.4.3一般公式化表示
5.4.4独立性
5.5连续变量
5.5.1混合模型
5.6条件贝叶斯网
5.7总结
5.8相关文献
5.9习题
第6章基于模板的表示
6.1引言
6.2时序模型
6.2.1基本假设
6.2.2动态贝叶斯网
6.2.3状态-观测模型
6.3模板变量与模板因子
6.4对象-关系领域的有向概率模型
6.4.1Plate模型
6.4.2概率关系模型
6.5无向表示
6.6结构不确定性
6.6.1关系不确定性
6.6.2对象不确定性
6.7小结
6.8相关文献
6.9习题
第7章高斯网络模型
7.1多元高斯分布
7.1.1基本参数化方法
7.1.2高斯分布的运算
7.1.3高斯分布的独立性
7.2高斯贝叶斯网
7.3高斯马尔可夫随机场
7.4小结
7.5相关文献
7.6习题
第8章指数族
8.1引言
8.2指数族
8.2.1线性指数族
8.3因式化的指数族（factored exponential families）
8.3.1乘积分布（product distributions）
8.3.2贝叶斯网
8.4熵和相对熵
8.4.1熵
8.4.2相对熵
8.5投影
8.5.1比较
8.5.2M-投影
8.5.3I-投影
……
第Ⅱ部分推理
第Ⅲ部分学习
第Ⅳ部分行为与决策