本书较为系统地介绍了黎曼流形优化中的基础理论与主要算法。基础理论包括黎曼几何的基础知识、黎曼流形上的梯度与广义次梯度、Hessian算子、收缩映射及其具体实现，以及黎曼流形上无约束与有约束优化问题的最优性条件。主要算法包括黎曼流形上的梯度下降法、BB方法、线性与非线性共轭梯度法、正则化牛顿法、拟牛顿法、信赖域算法和Levenberg-Marquardt算法，以及黎曼流形上的近端梯度法。鉴于经典SQP方法可用于求解嵌入于欧氏空间的黎曼子流形上的优化问题，本书还介绍了欧氏空间中的经典SQP方法以及SQP类型的近端梯度法。本书内容自成体系，读者无需预先掌握黎曼几何知识，所有必要的背景内容均在书中给出。

更多科学出版社服务，请扫码获取。

大连理工大学—本科 南开大学—硕士 香港中文大学—博士2003年9月至今，复旦大学数学科学学院计算数学，最优化提出了可加快随机梯度算法收敛速度的改进的 SVRG 算法。

目录
“现代数学基础丛书”序
前言
第1章 绪论 1
1.1 流形优化问题简介 1
1.2 文献综述 3
第2章 基础知识 6
2.1 矩阵范数 6
2.2 梯度与Hessian算子 8
2.3 凸函数 12
2.4 其他概念和常用结果 14
第3章 黎曼几何初步 17
3.1 微分流形 17
3.2 切向量与切空间 19
3.2.1 切向量与切空间的定义 20
3.2.2 光滑映射的微分 22
3.2.3 嵌入子流形的切空间 24
3.2.4 切向量场 26
3.3 黎曼流形与梯度 27
3.4 黎曼联络 32
3.5 平行移动映射与测地线 36
3.6 指数映射 41
3.6.1 与测地距离的关系 42
3.6.2 二阶近似 46
3.6.3 显式表达式 47
第4章 最优性条件 50
4.1 无约束问题 50
4.1.1 目标函数可微 50
4.1.2 Clarke广义次微分 54
4.1.3 目标函数不可微 61
4.2 有约束问题 62
第5章 无约束算法之一 67
5.1 收缩映射 67
5.1.1 定义 68
5.1.2 基于投影的收缩映射 70
5.1.3 Stiefel流形其他两种收缩映射 74
5.2 线搜索 77
5.3 梯度下降法 79
5.3.1 全局收敛性分析 80
5.3.2 L-光滑 82
5.3.3 局部线性收敛 86
5.4 BB步长和向量传输 91
5.5 线性共轭梯度法 94
5.6 非线性共轭梯度法 109
5.6.1 FR非线性共轭梯度法 110
5.6.2 充分下降方向的RNCG算法 113
第6章 无约束算法之二 126
6.1 牛顿法 126
6.1.1 优化牛顿法 126
6.1.2 求根牛顿法 137
6.1.3 半光滑牛顿法 146
6.2 拟牛顿法 159
6.2.1 欧氏空间拟牛顿法 159
6.2.2 子空间方法 169
6.2.3 黎曼流形上的拟牛顿法 174
6.3 信赖域算法 175
6.3.1 欧氏空间信赖域算法 175
6.3.2 黎曼信赖域算法 186
6.4 Levenberg-Marquardt算法 189
第7章 非光滑优化 192
7.1 欧氏空间的近端梯度法 192
7.2 黎曼流形上的近端梯度法 200
第8章 序列二次规划 209
8.1 经典SQP方法 210
8.1.1 算法介绍 210
8.1.2 算法框架 215
8.1.3 收敛性分析 219
8.1.4 其他环节 225
8.2 SQP类型的近端梯度法 226
8.2.1 SQP-PG算法框架 227
8.2.2 收敛性分析 231
参考文献 243
索引 250
“现代数学基础丛书”已出版书目 254