人工智能应用的数学基础 微课版

本书介绍与人工智能关系紧密的数学知识模块，以使读者更好地掌握数学方法在人工智能领域的应用。本书整合了随机过程、矩阵论和运筹学中相关的数学基础，共12章，分为3部分。第1部分为随机过程，包括第1～3章，主要介绍概率论预备知识、随机过程的概念和基本类型、马尔可夫链。第2部分为矩阵论，包括第4～8章，主要介绍矩阵论预备知识、线性空间与线性变换、范数理论及其应用、矩阵分解和特征值的估计。第3部分为运筹学，包括第9～12章，主要介绍运筹学思想与运筹学建模、数学规划、很优化问题和多目标决策。 本书面向高校计算机和人工智能等相关专业的学生，可以作为高年级本科生、低年级研究生的专业必修课或选修课的教材，也可以作为人工智能领域从业者的参考书。

   第1部分随 机 过 程

第1章概率论预备知识3

1.1基础知识回顾3

1.1.1基本概念3

1.1.2随机事件4

1.1.3古典概型5

1.1.4条件概率5

1.1.5乘法公式6

1.1.6全概率公式与贝叶斯公式6

1.1.7事件的相互独立性7

1.2随机变量及其分布8

1.2.1一维随机变量及其分布8

1.2.2多维随机变量及其分布11

1.3随机变量的数字特征15

1.3.1随机变量的数学期望15

1.3.2随机变量函数的数学期望16

1.3.3随机变量的方差16

1.3.4重要概率分布的方差17

1.3.5协方差和相关系数18

1.4数据分布特征18

1.4.1集中趋势的测度19

1.4.2离散程度的测度22

1.4.3分布形状的测度27

1.5统计数据的整理与显示30

1.6相关与回归分析38

1.6.1变量相关的概念38

1.6.2相关系数及其计算39

1.6.3回归模型与回归方程45

1.6.4参数β0和β1的最小二乘估计46

1.7大数定理与中心极限定理49

1.7.1大数定理49

1.7.2中心极限定理50

1.8参数估计51

1.8.1点估计51

1.8.2区间估计52

1.8.3估计量的评选标准53

1.8.4正态总体均值与方差的区间估计54

1.8.5两个正态总体均值差的区间估计56

1.8.6两个正态总体方差比的区间估计57

1.9假设检验58

1.9.1假设检验简介59

1.9.2双侧检验和单侧检验61

1.9.3一个正态总体的参数检验63

1.9.4两个正态总体的参数检验66

1.9.5两个相关（配对或匹配）样本的差值检验67

1.9.6两个总体比例之差的检验68

1.9.7假设检验中的其他问题69

1.9.8施行特征函数70

1.9.9分布拟合检验70

1.9.10秩与假设检验问题的P值法71

1.10小结71

1.11习题71




第2章随机过程的概念和基本类型73

2.1随机过程的基本概念73

2.2随机过程中随机变量的分布和数字特征74

2.2.1随机过程的数字特征77

2.2.2两个随机过程的独立性79

2.2.3复随机过程80

2.3随机过程的主要类型80

2.3.1二阶矩过程81

2.3.2正交增量过程81

2.3.3平稳独立增量过程81

2.3.4高斯过程83

2.3.5维纳过程83

2.3.6泊松过程84

2.3.7马尔可夫过程85

2.3.8鞅过程85

2.4小结86

2.5习题86




第3章马尔可夫链88

3.1基本概念88

3.2CK方程89

3.2.1n步转移概率89

3.2.2矩阵的四则运算90

3.3马尔可夫链的状态分类92

3.3.1互达性和周期性92

3.3.2常返与瞬过94

3.4极限定理及平稳分布96

3.4.1极限定理97

3.4.2平稳分布与极限分布98

3.5隐马尔可夫过程99

3.6马尔可夫链的应用102

3.6.1群体消失模型102

3.6.2人口结构变化的马尔可夫链模型103

3.6.3数据压缩与熵104

3.7小结106

3.8习题106




第2部分矩阵论

第4章矩阵论预备知识1114.1矩阵的概念111

4.1.1矩阵的定义111

4.1.2几种特殊的矩阵111

4.1.3矩阵与线性变换112

4.2矩阵的运算及初等变换113

4.2.1矩阵的概念113

4.2.2矩阵的四则运算115

4.2.3矩阵的转置119

4.2.4矩阵初等变换的概念120

4.3线性方程组的求解及性质122

4.3.1向量组的定义122

4.3.2向量组的线性相关性的判定123

4.3.3齐次线性方程组的求解及解的结构124

4.3.4非齐次线性方程组的求解及解的结构126

4.4方阵的特征值与特征向量128

4.4.1特征值与特征向量的概念与计算128

4.4.2方阵特征值与特征向量的性质130

4.5相似方阵131

4.5.1相似方阵相似变换与相似变换方阵131

4.5.2方阵的对角化133

4.6向量空间135

4.6.1向量空间子空间及不变子空间的定义135

4.6.2向量空间基与坐标的概念136

4.6.3基变换与坐标变换136

4.6.4解空间的定义138

4.7小结139

4.8习题139




第5章线性空间与线性变换141

5.1线性空间141

5.1.1集合与映射141

5.1.2线性空间及其性质142

5.1.3基与坐标143

5.2线性变换及其矩阵147

5.2.1线性变换及相关概念147

5.2.2线性变换的运算149

5.2.3线性变换的矩阵表示149

5.2.4线性变换的特征值与特征向量151

5.2.5若尔当标准形154

5.3欧几里得空间与酉空间156

5.3.1欧几里得空间的定义156

5.3.2元素正交性158

5.3.3正交变换与正交矩阵159

5.3.4对称变换与对称矩阵160

5.3.5酉空间的介绍161

5.4小结163

5.5习题163




第6章范数理论及其应用165

6.1向量范数165

6.1.1向量空间序列的收敛性165

6.1.2线性空间的向量范数165

6.1.3范数的等价性167

6.2矩阵范数168

6.2.1矩阵范数的定义168

6.2.2矩阵范数与向量范数的相容性168

6.2.3从属范数170

6.3范数的应用173

6.4小结176

6.5习题176




第7章矩阵分解177

7.1三角分解177

7.2QR分解180

7.3满秩分解191

7.4奇异值分解193

7.5小结196

7.6习题197




第8章特征值的估计198

8.1特征值相关概念介绍198

8.1.1特征值的上界198

8.1.2特征值的包含域199

8.2广义特征值问题203

8.2.1向量的B正交与B标准正交203

8.2.2广义特征向量的正交性203

8.3对称矩阵特征值的极性204

8.3.1常义瑞利商204

8.3.2广义瑞利商205

8.3.3矩阵奇异值的极性206

8.4矩阵的直积及应用206

8.4.1矩阵直积的基本性质207

8.4.2线性矩阵方程的可解性208

8.4.3线性矩阵方程的矩阵函数解法210

8.5小结211

8.6习题211第3部分运筹学




第9章运筹学思想与运筹学建模215

9.1运筹学简介215

9.1.1运筹学的思想与内涵215

9.1.2运筹学的特点与应用原则216

9.1.3运筹学解决问题的一般步骤216

9.1.4运筹学的学科地位217

9.1.5化模型的构造思路及评价217

9.2基本概念218

9.2.1向量和子空间投影定理218

9.2.2多元函数及其偏导数219

9.3小结220

9.4习题221




第10章数学规划222

10.1线性规划222

10.1.1线性规划问题及其模型222

10.1.2线性规划的单纯形法225

10.1.3线性规划的对偶问题230

10.1.4灵敏度分析235

10.2整数规划239

10.2.1整数规划问题的提出与建模239

10.2.2整数规划问题解法概述241

10.2.3分支定界法243

10.2.4割平面法246

10.2.5指派问题249

10.3目标规划252

10.3.1目标规划问题的提出与建模252

10.3.2目标规划的几何意义及图解法255

10.3.3解目标规划的单纯形法256

10.4小结260

10.5习题261




第11章化问题263

11.1化搜索算法的结构与一维搜索263

11.1.1常用的搜索算法结构263

11.1.2一维搜索266

11.2无约束化方法272

11.2.1性条件272

11.2.2最速下降法273

11.2.3牛顿法及其修正274

11.2.4共轭梯度法276

11.2.5变尺度法278

11.2.6直接算法282

11.3约束化方法285

11.3.1KT条件285

11.3.2既约梯度法289

11.3.3罚函数293

11.4小结297

11.5习题297




第12章多目标决策299

12.1层次分析法299

12.1.1层次分析法的基本步骤299

12.1.2求正互反矩阵的特征值及相应的特征向量的方法304

12.1.3残缺判断与群组决策307

12.1.4案例分析310

12.2数据包络分析312

12.2.1DEA模型概述312

12.2.2DEA模型的建立312

12.2.3决策单元的DEA有效性313

12.3小结314

12.4习题314