蒙特卡罗方法和统计计算

本书共13章，分别介绍了随机变量的抽样方法，随机向量的抽样方法，随机过程的抽样方法，Gibbs抽样和马尔可夫链，Metropolis-Hastings算法、HMC算法及SMC算法，EM算法和MM算法，梯度下降法，Newton-Raphson算法，坐标下降法，Boosting算法，凸优化与支持向量机，ADMM算法，深度学习等常用优化方法以及近些年在机器学习和深度学习领域使用的热门算法。对各种算法，作者除了给出计算步骤和统计模型的应用实例外，还对算法涉及的基本概念和重要收敛性定理进行了介绍和证明。本书专业性较强，可作为高年级本科生和研究生的教材，也可作为相关科研人员的参考书。

前言
第1章随机变量的抽样方法1
1.1均匀分布随机变量的抽样方法1
1.2非均匀分布随机变量的抽样方法5
参考文献30
第2章随机向量的抽样方法31
2.1一元抽样方法的推广31
2.2多元正态分布34
2.3多元t分布35
2.4多项分布36
2.5Dirichlet分布37
2.6Copula-marginal方法39
2.7球面上的随机点46
2.8随机矩阵49
2.9随机图62
参考文献70
第3章随机过程的抽样方法71
3.1随机过程的基本概念71
3.2随机游走72
3.3高斯过程74
3.4泊松点过程81
3.5Dirichlet过程86
参考文献92
第4章Gibbs抽样和马尔可夫链93
4.1贝叶斯正态模型93
4.2Gibbs抽样99
4.3马尔可夫链100
参考文献102
第5章Metropolis-Hastings算法、
HMC算法与SMC算法103
5.1贝叶斯泊松回归模型103
5.2Metropolis算法104
5.3贝叶斯泊松回归模型的
Metropolis算法106
5.4Metropolis-Hastings算法109
5.5哈密顿蒙特卡罗(HMC)方法111
5.6序贯蒙特卡罗(SMC)方法125
参考文献129
第6章EM算法和MM算法130
6.1高斯混合模型(GMM)130
6.2Jensen不等式131
6.3EM算法131
6.4使用EM算法估计GMM134
6.5MM算法135
参考文献139
第7章梯度下降法140
7.1梯度下降法(GD)140
7.2随机梯度下降法（SGD）146
参考文献147
第8章Newton-Raphson算法148
8.1Newton-Raphson算法步骤148
8.2收敛性分析149
8.3Logistic回归的优选似然估计151
参考文献154
第9章坐标下降法155
9.1坐标下降法155
9.2坐标下降法的应用：LASSO159
参考文献166
第10章Boosting算法167
10.1AdaBoost算法167
10.2AdaBoost 统计解释170
10.3AdaBoost概率解释175
参考文献176
第11章凸优化与支持向量机177
11.1Margin177
11.2凸优化理论180
11.3SVM：优选化最小margin185
11.4线性不可分情形187
11.5核函数190
参考文献194
第12章ADMM算法195
12.1对偶上升法195
12.2加强拉格朗日法和乘子法196
12.3ADMM算法197
参考文献203
第13章深度学习204
13.1神经网络204
13.2卷积神经网络212
参考文献216