最优化模型:线性代数模型、凸优化模型及应用

最优化理论是应用数学的一个分支,该理论研究在约束条件下某个函数的最小值或最大值.这个领域的诞生可以追溯到高斯年轻时所解决的一个天文学问题.后来随着物理学,特别是力学的发展,一些自然现象可被描述为“能量”函数最小化的问题,这是最优化的前身.现在最优化已经朝着研究和应用计算机算法来求解数学问题的方向发展。
如今,这个领域处于许多学科的交叉点,从统计学到动态系统与控制、复杂性理论和算法.它的应用范围非常广泛,包括机器学习、信息检索、工程设计、经济学、金融学和管理学。随着海量数据集的出现,最优化现在被视为数据科学这一新兴领域的重要组成部分。
在过去的20年里,人们对最优化及其应用领域重新产生了兴趣。最令人振奋的发展之一是一类特殊的优化问题——凸优化.凸模型为开发用来求解最优化问题的软件提供了一个可靠且实用的平台。借助于对用户友好的软件包,建模人员现在可以快速开发出非常高效的代码来求解千奇百怪的凸问题.现在,我们可以像求解规模相似的线性方程组一样轻松地解决凸问题。扩大可处理问题的范围反过来又使我们能够开发出更有效的方法来求解困难的非凸问题。
与此同时,数值线性代数方向也有了很大发展.在20世纪80年代后期对计算机算法进行了一系列开创性工作之后,用户友好型平台如Matlab、R以及最近的Python相继出现,这允许多代用户快速开发代码来求解数值问题。如今,对于求解具有数千个变量和方程的数值线性系统的实际算法和技术的能力,只有少数专家还心存疑虑,其他人则认为求解方案及其底层算法是理所当然的。
优化,更确切地说是凸优化,目前也处于类似阶段.基于这些原因,大多数工科、经济学和理科专业的学生可能会发现,在他们的职业生涯中,有能力识别、简化、建模和解决自己工作中出现的问题非常重要,而实际上只有极少数学生需要研究数值算法的细节。考虑到这个问题,我们将“最优化模型:线性代数模型、凸优化模型及应用”作为本书的标题,以突出强调以下事实:本书专注于“理解”实际问题的性质并将其建模为可求解的优化范例——这是一门“艺术”(通常是通过发现问题中的“隐藏凸性”结构),而不是聚焦于数量众多的特定数值优化算法的技术细节。为了完整起见,本书提供了两个相关章节,一章介绍基本的线性代数算法,而另一章则广泛地讨论所选取的优化算法。不过,跳过这些章节并不会影响对本书其他部分的理解。

编辑推荐
本书强调对特定算法技术的实际理解,侧重于介绍最优化领域中功能强大且便于计算的凸优化技术。相关专业的学生和从业人员将从本书中学习如何识别、简化、建模以及求解相关最优化问题,并将其中暗含的基本原理应用到自己的项目中。
本书对线性代数做了清晰而完整的介绍。通过引入相关的实际案例,以易于理解且形象的方式给读者展示核心的数学概念,并帮助其领会问题的实际意义。本书在易理解性和数学严谨性之间取得了一种恰当的平衡,使读者能够快速通晓书中内容,而不会淹没在复杂的数学推导中。
书中每章结尾提供大量习题,以及来自工程、数据科学、经济、金融和管理等不同领域的各种案例。本书是学习最优化理论不可多得的入门教材。
内容简介
全书共分为三部分:第一部分(第 2~7 章)主要介绍线性代数相关知识,包括向量、矩阵、对称矩阵、奇异值分解、线性方程组、最小二乘和矩阵算法等;第二部分(第 8~12 章)主要介绍凸优化相关知识,包括凸性、线性规划、二次规划、几何规划、二阶锥规划、鲁棒优化模型、半定模型等;第三部分(第 13~16 章)主要介绍相关应用,包括监督学习、最小二乘预测、无监督学习、最优投资组合、控制问题、工程设计等.
作者简介
Giuseppe C.Calafiore 是意大利都灵理工大学自动化与信息学院副教授,意大利国家研究委员会电子、计算机和电信工程研究所研究员。
Laurent El Ghaoui 是美国加州大学伯克利分校电气工程和计算机科学系以及工业工程和运筹学系的教授。
目录
上拉下滑查看目录 ↓
译者序
前言
第 1 章 绪论 1
1.1 启发性的例子 1
1.2 优化问题 4
1.3 优化问题的重要类型 9
1.4 发展历史 13
第一部分 线性代数模型
第 2 章 向量和函数 18
2.1 向量的基本概念 18
2.2 范数与内积 25
2.3 子空间上的投影 35
2.4 函数 41
2.5 习题 52
第 3 章 矩阵 54
3.1 矩阵的基本概念 54
3.2 矩阵作为线性映射 59
3.3 行列式、特征值和特征向量 62
3.4 具有特殊结构和性质的矩阵 73
3.5 矩阵分解 79
3.6 矩阵范数 82
3.7 矩阵函数 85
3.8 习题 89
第 4 章 对称矩阵 94
4.1 基础知识 94
4.2 谱定理 99
4.3 谱分解与优化 103
4.4 半正定矩阵 106
4.5 习题 113
第 5 章 奇异值分解 117
5.1 奇异值分解的基本概念 117
5.2 由 SVD 建立矩阵性质 120
5.3 奇异值分解与优化 126
5.4 习题 138
第 6 章 线性方程组与最小二乘 142
6.1 动机与例子 142
6.2 线性方程组的解集 148
6.3 最小二乘和最小范数解 150
6.4 求解线性方程组和最小二乘问题 158
6.5 解的灵敏性 162
6.6 单位球的正反映射 165
6.7 最小二乘问题的变形 171
6.8 习题 180
第 7 章 矩阵算法 185
7.1 特征值和特征向量的计算 185
7.2 求解平方线性方程组 190
7.3 QR 分解 195
7.4 习题 199
第二部分 凸优化模型
第 8 章 凸性 204
8.1 凸集 204
8.2 凸函数 211
8.3 凸问题 231
8.4 最优性条件 250
8.5 对偶 254
8.6 习题 269
第 9 章 线性、二次与几何模型 273
9.1 二次函数的无约束最小化 273
9.2 线性与凸二次不等式的几何表示 276
9.3 线性规划 281
9.4 二次规划 292
9.5 用 LP 和 QP 建模 301
9.6 与 LS 相关的二次规划 312
9.7 几何规划 315
9.8 习题 321
第 10 章 二阶锥和鲁棒模型 326
10.1 二阶锥规划 326
10.2 SOCP 可表示的问题和例子 332
10.3 鲁棒优化模型 346
10.4 习题 353
第 11 章 半定模型 357
11.1 从线性到锥模型 357
11.2 线性矩阵不等式 358
11.3 半定规划 369
11.4 半定规划模型的例子 375
11.5 习题 393
第 12 章 算法介绍 399
12.1 技术方面的预备知识 400
12.2 光滑无约束极小化算法 405
12.3 光滑凸约束极小化算法 423
12.4 非光滑凸优化算法 443
12.5 坐标下降法 454
12.6 分散式优化方法 457
12.7 习题 465
第三部分 应用
第 13 章 从数据中学习 472
13.1 监督学习概述 472
13.2 基于多项式模型的最小二乘预测 473
13.3 二元分类 478
13.4 一般监督学习问题 485
13.5 无监督学习 489
13.6 习题 497
第 14 章 计算金融 501
14.1 单期最优投资组合 501
14.2 鲁棒最优投资组合 508
14.3 多期投资组合配置 511
14.4 稀疏指标跟踪 517
14.5 习题 519
第 15 章 控制问题 525
15.1 连续时间模型和离散时间模型 525
15.2 基于优化的控制合成 529
15.3 优化分析与控制器设计 536
15.4 习题 542
第 16 章 工程设计 546
16.1 数字滤波器设计 546
16.2 天线阵列设计 553
16.3 数字电路设计 560
16.4 飞机设计 563
16.5 供应链管理 567
16.6 习题 576

资讯 |《Java核心技术》基于Java 17全面升级!
干货 |再见了Java8,Java17:我要取代你
资讯 | Java核心技术大会2022 · 重磅发布
新书 | 红蓝攻防:构建实战化网络安全防御体系
每周赠书 | 【第112期】一些可以显著提高 Java 启动速度方法
书评 | 运营其实很重要


点击阅读全文购买
更多推荐
所有评论(0)