最优化模型：线性代数模型、凸优化模型及应用

本书内容详实，结构严谨，侧重于介绍优化理论在实际生活中的应用，是学习优化理论不可多得的入门教材。读者将从本书中学到如何识别、简化、建模以及求解相关优化问题，并将其中暗含的基本原理应用到自己正在进展的项目中。本书对线性代数做了清晰而完整的介绍。通过引入相关的实际案例，以易于理解且形象的方式给读者展示核心的数学概念，并帮助其领会问题的实际意义。阅读本书不需要太多的预备知识，读者只需要对几何学、微积分学和概率统计学有一个基本的了解。本书可用于本科生或研究生优化理论学习的教材。

Giuseppe C.Calafiore 是意大利都灵理工大学自动化与信息学院副教授，意大利国家研究委员会电子、计算机和电信工程研究所研究员。<br>Laurent El Ghaoui 是美国加州大学伯克利分校电气工程和计算机科学系以及工业工程和运筹学系的教授。

译者序 前言 第 1 章 绪论 1 1.1 启发性的例子 1 1.2 优化问题 4 1.3 优化问题的重要类型 9 1.4 发展历史 13 第一部分 线性代数模型 第 2 章 向量和函数 18 2.1 向量的基本概念 18 2.2 范数与内积 25 2.3 子空间上的投影 35 2.4 函数 41 2.5 习题 52 第 3 章 矩阵 54 3.1 矩阵的基本概念 54 3.2 矩阵作为线性映射 59 3.3 行列式、特征值和特征向量 62 3.4 具有特殊结构和性质的矩阵 73 3.5 矩阵分解 79 3.6 矩阵范数 82 3.7 矩阵函数 85 3.8 习题 89 第 4 章 对称矩阵 94 4.1 基础知识 94 4.2 谱定理 99 4.3 谱分解与优化 103 4.4 半正定矩阵 106 4.5 习题 113 第 5 章 奇异值分解 117 5.1 奇异值分解的基本概念 117 5.2 由 SVD 建立矩阵性质 120 5.3 奇异值分解与优化 126 5.4 习题 138 第 6 章 线性方程组与最小二乘 142 6.1 动机与例子 142 6.2 线性方程组的解集 148 6.3 最小二乘和最小范数解 150 6.4 求解线性方程组和最小二乘问题 158 6.5 解的灵敏性 162 6.6 单位球的正反映射 165 6.7 最小二乘问题的变形 171 6.8 习题 180 第 7 章 矩阵算法 185 7.1 特征值和特征向量的计算 185 7.2 求解平方线性方程组 190 7.3 QR 分解 195 7.4 习题 199 第二部分 凸优化模型 第 8 章 凸性 204 8.1 凸集 204 8.2 凸函数 211 8.3 凸问题 231 8.4 最优性条件 250 8.5 对偶 254 8.6 习题 269 第 9 章 线性、二次与几何模型 273 9.1 二次函数的无约束最小化 273 9.2 线性与凸二次不等式的几何表示 276 9.3 线性规划 281 9.4 二次规划 292 9.5 用 LP 和 QP 建模 301 9.6 与 LS 相关的二次规划 312 9.7 几何规划 315 9.8 习题 321 第 10 章 二阶锥和鲁棒模型 326 10.1 二阶锥规划 326 10.2 SOCP 可表示的问题和例子 332 10.3 鲁棒优化模型 346 10.4 习题 353 第 11 章 半定模型 357 11.1 从线性到锥模型 357 11.2 线性矩阵不等式 358 11.3 半定规划 369 11.4 半定规划模型的例子 375 11.5 习题 393 第 12 章 算法介绍 399 12.1 技术方面的预备知识 400 12.2 光滑无约束极小化算法 405 12.3 光滑凸约束极小化算法 423 12.4 非光滑凸优化算法 443 12.5 坐标下降法 454 12.6 分散式优化方法 457 12.7 习题 465 第三部分 应用 第 13 章 从数据中学习 472 13.1 监督学习概述 472 13.2 基于多项式模型的最小二乘预测 473 13.3 二元分类 478 13.4 一般监督学习问题 485 13.5 无监督学习 489 13.6 习题 497 第 14 章 计算金融 501 14.1 单期最优投资组合 501 14.2 鲁棒最优投资组合 508 14.3 多期投资组合配置 511 14.4 稀疏指标跟踪 517 14.5 习题 519 第 15 章 控制问题 525 15.1 连续时间模型和离散时间模型 525 15.2 基于优化的控制合成 529 15.3 优化分析与控制器设计 536 15.4 习题 542 第 16 章 工程设计 546 16.1 数字滤波器设计 546 16.2 天线阵列设计 553 16.3 数字电路设计 560 16.4 飞机设计 563 16.5 供应链管理 567 16.6 习题 576