數(shù)值優(yōu)化引論

前言
第1章　引言
1.1　優(yōu)化問題的一般模型
1.2　優(yōu)化問題的分類
第2章　基本知識
　2.1　關(guān)于極小點的一些定理
　2.2　算法的一般性描述
第3章　線搜索方法
3.1　線搜索方法的收斂性
3.2 收斂率
3.3　計算步長
第4章　信賴域方法
4.1　子問題的近似解法
4.2　子問題的幾乎精確解法
4.3　信賴域方法的全局收斂性
第5章　共軛梯度法
5.1　線性共軛梯度法
5.2　非線性共軛梯度法
第6章　實用Newton法
6.1　非精確Newton法
6.2　線搜索Newton法
6.3　Hesse修正
6.4　信賴域Newton法
第7章　導(dǎo)數(shù)的計算
7.1　有限差分近似估計
7.2　自動微分法
第8章　擬Newton法
8.1 BFGS方法
8.2 BFGS方法的特性
8.3 SR1方法（秩1校正公式）
8.4 SR1校正的特征
8.5 Broyden族
8.6　收斂性分析
第9章　約束優(yōu)化的基本理論
9.1 可微凸規(guī)劃的KKT點
9.2　二階充分條件
9.3 幾個有用的觀察
第10章　線性規(guī)劃：單純形法
10.1 線性規(guī)劃及其形式
10.2　可行域的幾何特征
10.3 單純形法
10.4　線性規(guī)劃的對偶理論
第11章　線性規(guī)劃：內(nèi)點法
11.1　原始一對偶算法
11.2　補充說明
第12章　二次規(guī)劃
12.1 等式約束二次規(guī)劃
12.2 二次規(guī)劃的不等式約束問題
第13章　約束優(yōu)化的幾種基本方法
13.1 罰函數(shù)法
13.2　對數(shù)障礙法
13.3　精確罰閑數(shù)
13.4　增廣的Lagrange乘子法
附錄A　背景材料
A.1 連續(xù)性和極限
A.2 導(dǎo)數(shù)
A.3 方向?qū)?shù)
A.4　中值定理
A.5　隱函數(shù)定理
A.6　可行集的幾何解釋
A.7　階的記法
A.8　標量方程根的求法
A.9 向量和矩陣
A.10　范數(shù)
A.11 子空間
A.12　特征值，特征向量，奇異值分解
A.13　行列式和跡
A.14 矩陣分解：Cholesdy，LU，QR
A.15 Sherman?Morrison?Woodbury公式
A.16 交錯特征值定理
A.17　誤差分析
　A.18　預(yù)條件化和穩(wěn)定性
附錄B　Kantorovich不等式
參考文獻