概率图模型

概率图模型结合了概率论与图论的知识，提供了一种简单的可视化概率模型的方法，在人工智能、机器学习和计算机视觉等领域有着广阔的应用前景。本书旨在帮助读者学习使用概率图模型，理解计算机如何通过贝叶斯模型和马尔科夫模型来解决现实世界的问题，同时教会读者选择合适的R语言程序包、合适的算法来准备数据并建立模型。本书适合各行业的数据科学家、机器学习爱好者和工程师等人群阅读、使用。

大卫·贝洛特，是法国国家信息与自动化研究所（INRIA）计算机科学专业的博士，致力于贝叶斯机器学习。他也是美国加州大学伯克利分校的博士后，为英特尔、Orange电信和巴克莱银行等公司工作过。他现在财经行业工作，使用机器学习技术开发财经市场的预测算法，同时也是开源项目，如Boost C++库的贡献者。
魏博，志诺维思(北京)基因科技有限公司不错算法工程师。本科毕业于武汉大学数学系，博士毕业于中国科学院数学与系统科学研究院计算机软件与理论专业。前阿里巴巴优酷事业部视频搜索算法专家，欧普拉软件科技(北京)有限公司新闻推荐不错算法工程师。长期关注于用户需求建模、行为建模和自动推理。数据挖掘、机器学习和数据可视化爱好者，尤其热衷于海量数据中用户视角和用户行为模式的刻画和推断，以及自然语言处理问题。

第1章概率推理1
1.1机器学习3
1.2使用概率表示不确定性4
1.2.1信念和不确定性的概率表示5
1.2.2条件概率6
1.2.3概率计算和随机变量7
1.2.4联合概率分布9
1.2.5贝叶斯规则10
1.3概率图模型18
1.3.1概率模型18
1.3.2图和条件独立19
1.3.3分解分布21
1.3.4有向模型22
1.3.5无向模型23
1.3.6示例和应用23
1.4小结27
第2章准确推断28
2.1构建图模型29
2.1.1随机变量的类型30
2.1.2构建图31
2.2变量消解37
2.3和积与信念更新39
2.4联结树算法43
2.5概率图模型示例51
2.5.1洒水器例子51
2.5.2医疗专家系统52
2.5.3多于两层的模型53
2.5.4树结构55
2.6小结56
第3章学习参数58
3.1引言59
3.2通过推断学习63
3.3优选似然法67
3.3.1经验分布和模型分布是如何关联的？67
3.3.2优选似然法和R语言实现69
3.3.3应用73
3.4学习隐含变量——期望优选化算法75
3.4.1隐变量76
3.5期望优选化的算法原理77
3.5.1期望优选化算法推导77
3.5.2对图模型使用期望优选化算法79
3.6小结80
第4章贝叶斯建模——基础模型82
4.1朴素贝叶斯模型82
4.1.1表示84
4.1.2学习朴素贝叶斯模型85
4.1.3接近贝叶斯的朴素贝叶斯模型87
4.2Beta二项式分布90
4.2.1先验分布94
4.2.2带有共轭属性的后验分布95
4.2.3如何选取Beta参数的值95
4.3高斯混合模型97
4.3.1定义97
4.4小结104
第5章近似推断105
5.1从分布中采样106
5.2基本采样算法108
5.2.1标准分布108
5.3拒绝性采样111
5.3.1R语言实现113
5.4重要性采样119
5.4.1R语言实现121
5.5马尔科夫链蒙特卡洛算法127
5.5.1主要思想127
5.5.2Metropolis-Hastings算法128
5.6概率图模型MCMC算法R语言实现135
5.6.1安装Stan和RStan136
5.6.2RStan的简单例子136
5.7小结137
第6章贝叶斯建模——线性模型139
6.1线性回归140
6.1.1估计参数142
6.2贝叶斯线性模型146
6.2.1模型过拟合147
6.2.2线性模型的图模型149
6.2.3后验分布151
6.2.4R语言实现153
6.2.5一种稳定的实现156
6.2.6更多R语言程序包161
6.3小结161
第7章概率混合模型162
7.1混合模型162
7.2混合模型的期望优选化164
7.3伯努利混合169
7.4专家混合172
7.5隐狄利克雷分布176
7.5.1LDA模型176
7.5.2变分推断179
7.5.3示例180
7.6小结183
附录184