随笔分类 - 最优化理论与算法
摘要：1 等式约束的优化 1.1 等式约束的引入 1.2 等式约束的例题 该例题说明：一阶必要条件不能区分极大点与极小点，只能说明该点可能是极值点。 1.3 等式约束的注意事项 1.4 λ的存在性 使用拉格朗日乘子的问题：原约束问题存在最优，但使用朗格朗日乘子之后改成无约束的问题时，该无约束问题可能不存在
阅读全文
摘要：1预备知识 1.1 什么叫二次函数 1.2 什么叫二阶收敛 如果在有限步内找到二次函数的最优解，则该算法就称为二阶收敛。 1.3 什么叫共轭方向 2 共轭梯度法 2.1 引入 2.2 特点 举个例子体会： 2.3 Fletcher Reeves 算法 举个例子体会： 这个例子是想说明：按照前边的理论
阅读全文
摘要：梯度方向 梯度方向的定义 为什么选梯度方向 沿梯度方向存在的问题 注：其实就是“沿梯度方向，函数不能再有限步达到最优！” 梯度算法 梯度算法的定义 梯度算法例题 最优梯度 最优梯度的定义 最优梯度的例题 最优梯度的收敛特性
阅读全文
摘要：1 引入 之前我们求梯度与Hession阵来确定极值点，但是当维度非常大的时候，往往求解不出来。所以另辟蹊径，从一元开始： 2 二分法 3 等区间搜索 注：对于三点等分区间搜索来说，第一轮计算三个点的值，以后每轮只计算两个新点的值。 4 斐波那契搜索 4.1 引入 4.2 斐波那契数列 4.3 斐波
阅读全文
摘要：1 凸集 2 凸函数 2.1 定义 2.2 凸函数的判断 3 局部最小与全局最小 3.1 定义 3.2 极值（指：局部最小；全局最小）的必要条件 3.3 局部极小的充分条件 注：（1）奇异局部最小 （2）如果有多个局部最小，怎样找到全局最小 补充：单峰函数的定义： （3）凸函数全局最小的充要条件 4
阅读全文
摘要：统计要与大量的数据打交道，涉及繁杂的计算和图表绘制。现代的数据分析工作如果离开统计软件几乎是无法正常开展。在准确理解和掌握了各种统计方法原理之后，再来掌握几种统计分析软件的实际操作，是十分必要的。 常见的统计软件有SAS，SPSS，MINITAB，EXCEL等。这些统计软件的功能和作用大同小异，各自
阅读全文
摘要：EViews是Econometrics Views的缩写，直译为计量经济学观察，通常称为计量经济学软件包。它的本意是对社会经济关系与经济活动的数量规律，采用计量经济学方法与技术进行“观察”。计量经济学研究的核心是设计模型、收集资料、估计模型、检验模型、应用模型（结构分析、经济预测、政策评价）。EVi
阅读全文
