迭代分析基础

本书以非线性算子不动点为出发点导出非线性问题解的迭代算法作为算法设计的一般思想方法，着重介绍如下三类非线性问题的迭代算法及其收敛性分析：1。非线性算子不动点迭代算法，包括与非线性算子不动点理论与算法密切相关的泛函分析的基本知识，非扩张映像不动点的Halpern迭代、粘滞迭代、Mann迭代以及Ishikawa迭代等迭代算法。2。单调变分不等式解的迭代算法，包括变分不等式解的存在性、专享性理论，Lipschiz连续单调变分不等式解的外梯度算法、次外梯度算法以及松弛投影方法等。3。凸优化问题解的迭代算法，包括凸分析基本知识、二次规划问题、最小二乘问题、凸可行问题、分裂可行问题解的迭代算法，大型线性方程组随机Kaczmarz算法，一般凸优化问题的邻近梯度算法等。本书既介绍了一些经典的结果，也介绍了新近出现的新成果，其中包含了作者的一些新结果。本书可作为数学专业非线性分析与很优化理论、算法及其应用方向硕士研究生的学习参考书，也可供优化与控制、计算数学、运筹学、非线性规划、机器学习等领域的教师以及相关领域的工程技术人员参考。

前言
符号表
第1章非线性算子不动点理论及其算法概述1
1.1不动点理论概述1
1.1.1什么是不动点1
1.1.2为什么要研究不动点1
1.1.3若干重要不动点定理1
1.2不动点迭代算法概述5
1.2.1不动点问题研究的演变5
1.2.2几种重要的不动点迭代算法6
1.3练习题8
第2章不动点迭代算法分析基础10
2.1几个重要引理10
2.1.1重要引理110
2.1.2重要引理211
2.1.3重要引理312
2.1.4重要引理414
2.2Banach空间基础16
2.2.1Banach空间基本概念16
2.2.2严格凸与一致凸16
2.2.3闭与弱闭17
2.2.4紧与弱紧17
2.2.5下半连续与弱下半连续19
2.3Hilbert空间基础20
2.3.1Hilbert空间基本概念20
2.3.2泛函表示定理21
2.3.3度量投影21
2.3.4松弛投影27
2.3.5Opial性质28
2.3.6K-K性质30
2.4练习题30
第3章非线性算子不动点迭代算法32
3.1非扩张映像的基本性质32
3.1.1不动点集的结构32
3.1.2次闭原理32
3.1.3不动点的存在性33
3.2Halpern迭代34
3.2.1Browder隐式迭代34
3.2.2Halpern迭代计算格式36
3.2.3Halpern迭代的收敛速度估计41
3.2.4粘滞迭代45
3.2.5最小范数不动点47
3.2.6一般Halpern迭代的很优参数选取51
3.3Mann迭代58
3.3.1Mann迭代计算格式58
3.3.2修正的Mann迭代61
3.3.3带有误差项的Mann迭代67
3.3.4一般Mann迭代的很优参数选取69
3.4伪压缩映像不动点迭代算法80
3.4.1伪压缩映像80
3.4.2Ishikawa迭代81
3.4.3逐次压缩算法82
3.5练习题86
第4章凸优化理论基础88
4.1凸分析简介88
4.1.1凸函数88
4.1.2下半连续函数与上方图90
4.1.3Gateaux微分和次微分92
4.1.4凸函数梯度算子基本性质96
4.2凸优化问题与变分不等式的关系98
4.2.1很优化问题解的存在性98
4.2.2很优化条件100
4.3练习题101
第5章强单调与反强单调变分不等式解的迭代算法103
5.1什么是变分不等式103
5.1.1变分不等式问题的一般提法103
5.1.2变分不等式与不动点问题的等价性104
5.1.3共轭变分不等式问题104
5.2强单调变分不等式105
5.2.1解的存在专享性与梯度投影算法105
5.2.2变参数梯度投影算法108
5.2.3松弛梯度投影算法109
5.2.4混合最速下降算法113
5.3反强单调变分不等式117
5.3.1反强单调映像与平均映像的进一步性质117
5.3.2反强单调变分不等式解的迭代算法124
5.4变分不等式的正则化方法128
5.4.1什么是正则化方法128
5.4.2一类单调变分不等式的正则化方法130
5.5逆变分不等式137
5.5.1什么是逆变分不等式137
5.5.2解的存在专享性138
5.5.3不准确梯度投影算法139
5.6练习题142
第6章一般单调变分不等式解的迭代算法144
6.1极大单调算子144
6.1.1极大单调算子的概念144
6.1.2闭凸集的法锥150
6.1.3极大单调算子与变分不等式的关系151
6.2单调变分不等式的外梯度方法及其推广152
6.2.1Fejer单调序列的收敛性152
6.2.2外梯度方法及其推广152
6.3单调变分不等式的次梯度外梯度方法157
6.3.1次梯度外梯度方法的提出动机157
6.3.2次梯度外梯度方法158
6.3.3修正的次梯度外梯度方法162
6.4练习题163
第7章凸优化问题解的迭代算法164
7.1二次规划问题的迭代算法164
7.1.1强凸二次规划问题的迭代算法164
7.1.2最小二乘问题的迭代算法166
7.2凸优化问题的邻近梯度算法168
7.2.1邻近算子168
7.2.2邻近梯度算法172
7.3Kaczmarz算法及其对偶算法175
7.3.1Kaczmarz算法175
7.3.2随机Kaczmarz算法177
7.3.3惯性随机Kaczmarz算法182
7.3.4对偶Kaczmarz算法187
7.4选择性投影方法192
7.4.1凸可行问题的选择性投影方法192
7.4.2多集分裂可行问题的选择性投影方法194
7.5单调变分包含问题的多步惯性邻近收缩算法197
7.6练习题211
参考文献212