随笔分类 - 最优化理论与技术
摘要:无约束优化方法 [TOC] 概述 前言 :无约束优化问题是实际问题中会碰到的问题。在解决约束优化问题的过程中会用到无约束优化问题的解法或思想。古典极值理论中,令一阶导为 0 ,要求二阶可微,然后判断海塞矩阵为正定才能求极小点,有理论意义而没有使用价值,实际中的多元函数很多不可微或不可求二阶导。但古
阅读全文
摘要:一维搜索 [TOC] 一维最优化 一般迭代算法 1. 初始点 $x^0$ 2. 按照某种规则 $A$ 产生下一个迭代点 $x^{k+1}=A(x^k)$ 3. 点列 ${x^k}$ 收敛于最优解 $x^ $ 下降迭代算法 1. 初始点 $x^0$ 2. 按照某种规则 $A$ 产生下一个迭代点 $x^
阅读全文
摘要:线性规划 [TOC] 线性规划的标准型 线性规划模型 ( LP ) 1. 一组决策变量 2. 一个线性目标函数 3. 一组线性约束条件 一般形式: $$ \min (\max ) \sum_{i=1}^{n} c_{i} x_{i} \\ s.t.\left\{\begin{array}{c}{a_
阅读全文
摘要:预备知识 [TOC] 课程内容 1. 预备知识 2. 线性规划 3. 一维搜索方法 4. 无约束最优化方法 5. 约束最优化方法 6. 工程应用优化 预备知识 1. 最优化问题 2. 多元函数的Taylor公式 3. 多元函数极值问题 4. 凸集、凸函数和凸优化 5. 算法相关概念 6. 算法概述
阅读全文