数值最优化方法

    本书系统地介绍了数值求解光滑非线性无约束和有约束很优化问题的基本方法和基本性质。本书在选材上，注重很优化方法的基础性与实用性；在内容的处理上，注重由浅入深、循序渐进；在叙述上，力求清晰、准确、简明易懂。

本书对非线性的无约束优化问题和有约束优化问题，给出解决这些问题的的数值方法，并进行算法的理论分析，给出算法的数值试验结果。具体内容包括：解无约束问题的梯度型方法、牛顿方法、拟牛顿方法以及最小二乘方法；有约束问题的很优性理论、罚函数方法、二次规划问题以及序列二次规划方法。

第一章 引论 1
第二章 无约束很优化方法的基本结构 8
2.1 很优性条件 8
2.2 方法的特性 12
2.3 线搜索准则 18
2.4 线搜索求步长 25
2.5 信赖域方法 32
2.6 常用很优化方法软件介绍 35
后记 35
习题 36
第三章 负梯度方法与Newton型方法 38
3.1 最速下降方法 38
3.2 Newton方法 46
3.3 拟Newton方法 57
3.4 拟Newton方法的基本性质 65
3.5 DFP公式的意义 70
3.6 数值试验 76
3.7 BB方法 85
后记 88
习题 89
上机习题 92
第四章 共轭梯度方法 95
4.1 共轭方向及其性质 95
4.2 对正定二次函数的共轭梯度方法 99
4.3 非线性共轭梯度方法 105
4.4 数值试验 110
4.5 Broyden族方法搜索方向的共轭性 112
后记 113
习题 114
上机习题 117
第五章 非线性最小二乘问题 119
5.1 最小二乘问题 119
5.2 Gauss-Newton方法 121
5.3 LMF方法 129
5.4 Dogleg方法 135
5.5 大剩余量问题 137
5.6 数值试验 138
后记 143
习题 144
上机习题 148
第六章 约束很优化问题的很优性理论 153
6.1 一般约束很优化问题 153
6.2 约束规范条件 161
6.3 约束很优化问题的一阶很优性条件 167
6.4 约束很优化问题的二阶很优性条件 172
后记 181
习题 181
第七章 罚函数方法 185
7.1 外点罚函数方法 185
7.2 障碍函数方法 194
7.3 等式约束很优化问题的增广Lagrange函数方法 198
7.4 一般约束很优化问题的增广Lagrange函数方法 204
7.5 数值试验 208
后记 209
习题 210
上机习题 213
第八章 二次规划 215
8.1 二次规划问题 215
8.2 等式约束二次规划问题 217
8.3 起作用集方法 226
后记 236
习题 236
上机习题 238
第九章 序列二次规划方法 240
9.1 序列二次规划方法的提出 240
9.2 约束相容问题 244
9.3 Lagrange函数Hesse矩阵的近似 245
9.4 价值函数 247
9.5 SQP算法 249
后记 250
习题 251
上机习题 251
附录 252
附录I 凸集与凸函数 252
附录II 正交变换与QR分解 257
符号说明 263
习题解答提示 265
参考文献 274
名词索引 281