摘要:
定义1(回收方向):给定非空凸集$C$,如果向量$d$满足$x+\alpha d \in C(\forall x\in C,\forall \alpha \geq 0)$,则称$d$为$C$的一个回收方向。换句话说,从$C$中一个点沿着回收方向出发,永远不会跑到$C$外面。 定义2(回收锥):非空凸 阅读全文
摘要:
分离平面定理是凸分析和凸优化中一个重要的基础定理 **定义1(分离平面):** 假设$S_1,S_2 \subset E^n$,假设存在一个超平面$H=\{x:p^Tx=\alpha\}$,且使得: $$ \begin{cases} p^Tx \geq(>) \alpha , &\text{ $\f 阅读全文
摘要:
BFGS算法矩阵$ B_k $的迭代公式为: $$B_{k+1}=B_k+\frac{y_ky_k^T}{y_k^Ts_k}-\frac{B_ks_ks_k^TB_k}{s_k^TB_ks_k}$$ Sherman-Morrison公式为: 假设 A 是 n 阶可逆矩阵, t 为常量,u,v 是 n 阅读全文
摘要:
BB方法 ,即Barzilai-Borwein (BB) method 是梯度下降方法的一种,他主要是通过近似牛顿方法来实现更快的收敛速度,同时避免计算二阶导数带来的计算复杂度: 经典牛顿法: 首先,设$f(x)$二阶连续可微,则在迭代算法中第$k$步,$x_k$处泰勒展开:$$f(x_k+d_k) 阅读全文
摘要:
康托洛维奇不等式是数值优化中收敛性分析的一个常用工具: 康托洛维奇不等式:设$Q$为正定对称阵,$x \in \mathbb{R}^n$,则有 $$\frac{(x^Tx)^2}{(x^TQx)(x^TQ^{-1}x)}\geq\frac{4aA}{(a+A)^2}$$ 其中$a,A$分别为$Q$的 阅读全文
摘要:
自适应可行BB类算法 本文的算法来自于论文: Bo Jiang & Yu-Hong Dai (2013) Feasible Barzilai–Borwein-like methods for extreme symmetric eigenvalue problems, Optimization Me 阅读全文
摘要:
大学教育当然应该让人收获知识。但是在知识不无边界的,因此大学生更重要的是培养自己获取知识的能力。 就像人认识汉字,我们当然需要知道很多常用字的读音和释义,但是不可能知道全部的汉字,但是我们具备查字典的能力 阅读全文
摘要:
自适应的两点步长梯度法 该算法来自于戴彧虹研究员的一篇论文,该文章将两点步长梯度法与非单调搜索结合,并且对非单调搜索的法则进行了改进。_____________________________________________________________________________ 问题引入: 阅读全文
摘要:
丘老师的精彩讲解: 有限性代数的不可约左模(十六)_哔哩哔哩_bilibili 有限性代数的不可约左模(十七)_哔哩哔哩_bilibili 这个内容主要看丘维声的《群表示论》2.2节,主定理的讨论是2.2.2(P54-55) 需要注意的是:本文涉及的很多定义、定理由于篇幅原因没有声明,具体可以看丘维 阅读全文
摘要:
本文转载自丘维声《群表示论》课后习题1.5 答案: 阅读全文