2020 年 6月随笔档案 - Picassooo

摘要：Linux 中最常用 150 个命令汇总示例： mv move a file to a new location： mv [filename] [dest-dir] 阅读全文

posted @ 2020-06-29 16:25 Picassooo 阅读(167) 评论(0) 推荐(0) 编辑

摘要：小明对某论文很感兴趣，每次有人引用该论文时，他都想收到Google scholar的邮件提醒，他该怎么办？ 1. 在Google scholar搜索该论文，点击被引用次数 2. 点击左下角的创建快讯(alert) 3. 填写邮件，并点击创建快讯这样，小明就可以收到该论文被引用的提醒邮件了。阅读全文

posted @ 2020-06-29 09:58 Picassooo 阅读(1810) 评论(0) 推荐(0) 编辑

张量Tucker分解

摘要：

G

$\mathcal{G}$ 被称作核心张量，一般是满张量(full tensor)，即其非对角线元素一般也不为零。 Tucker分解又称高阶奇异值分解(High Order Sigular Value Decompsition, HOSVD)。阅读全文

posted @ 2020-06-23 09:43 Picassooo 阅读(1841) 评论(0) 推荐(1) 编辑

转：软阈值迭代，矩阵补全，低秩稀疏矩阵恢复

摘要：软阈值迭代算法（ISTA）和快速软阈值迭代算法（FISTA）低秩矩阵填充|奇异值阈值算法低秩稀疏矩阵恢复|ADM(IALM)算法阅读全文

posted @ 2020-06-22 21:05 Picassooo 阅读(537) 评论(0) 推荐(0) 编辑

近端梯度下降(proximal gradient decent)

摘要：阅读全文

posted @ 2020-06-22 17:34 Picassooo 阅读(951) 评论(3) 推荐(0) 编辑

转：矩阵向量求导

摘要：虽然我在矩阵微分系列中有介绍关于矩阵和向量的求导，但是不够系统，无意中发现一位同仁写的矩阵和向量的求导系列博客，写的很详细，相当不错，特此推荐：机器学习中的矩阵向量求导(一) 求导定义与求导布局机器学习中的矩阵向量求导(二) 矩阵向量求导之定义法机器学习中的矩阵向量求导(三) 矩阵向量求导之微阅读全文

posted @ 2020-06-19 16:50 Picassooo 阅读(165) 评论(0) 推荐(0) 编辑

矩阵

ℓ_{2, 1}

$\ell_{2,1}$ 范数

摘要：

ℓ_{2, 1}

$\ell_{2,1}$ -norm encourages the columns of matrix A to be zeros. For example， we have objective function：阅读全文

posted @ 2020-06-18 11:28 Picassooo 阅读(339) 评论(0) 推荐(0) 编辑

matlab 计算程序运行时间

摘要：tic k = 0; for ii = 1:100 k = k + ii; end disp(k); toc 运行结果：阅读全文

posted @ 2020-06-17 14:47 Picassooo 阅读(616) 评论(0) 推荐(0) 编辑

Matlab reshape, randperm, find函数

摘要：reshape函数 reshape(X,M,N) or reshape(X,[M,N]) returns the M-by-N matrix whose elements are taken columnwise from X. An error results if X does not have 阅读全文

posted @ 2020-06-17 14:42 Picassooo 阅读(228) 评论(0) 推荐(0) 编辑

凸函数，强凸函数，拟凸函数，一阶二阶判断条件

摘要：本文摘自张贤达的《矩阵分析与应用》第四章第3节、王书宁等人译的《凸优化》的第三章第1节和第4节阅读全文

posted @ 2020-06-14 10:48 Picassooo 阅读(4860) 评论(0) 推荐(0) 编辑

次梯度算法小实例

摘要：在上一篇博客中，我们介绍了次梯度，本篇博客，我们将用它来求解优化问题。优化目标函数：

m i n \frac{1}{2} | | A x - b | |_{2}^{2} + μ | | x | |_{1}

$min \frac{1}{2} ||Ax-b||_2^2+\mu ||x||_1$ 已知

A, b

$A, b$ ，设定一个

μ

$\mu$ 值，此优化问题表示用数据矩阵

A

$A$ 的列向量的线性组合去拟合目标向量

b

$b$ ，并且解向量

x

$x$ 阅读全文

posted @ 2020-06-13 19:20 Picassooo 阅读(2012) 评论(0) 推荐(0) 编辑

次梯度和次微分

摘要：本文摘自张贤达的《矩阵分析与应用》第四章第5节示例：上面左图的红线是函数

y = x^{2}

$y=x^2$ 在点

x = 0

$x=0$ 的梯度方向，也是唯一的次梯度方向。上面右图的三条红线都是函数

y = | x |

$y=|x|$ 在点

x = 0

$x=0$ 的次梯度方向。阅读全文

posted @ 2020-06-13 17:50 Picassooo 阅读(3030) 评论(0) 推荐(0) 编辑

用scipy库生成稀疏矩阵

摘要：方法一： import scipy as spy from scipy.sparse import csc_matrix m = 2 n = 3 A = spy.sparse.rand(m, n, density=0.5, format='csc', dtype=None).toarray() pr 阅读全文

posted @ 2020-06-13 15:45 Picassooo 阅读(377) 评论(0) 推荐(0) 编辑

numpy的shape该用元组还是直接用数字？

摘要：np.ones(shape), np.zeros(shape), np.random.randint(low, high, shape)这里的shape必须用元组或列表形式，例如： np.reshape(shape), 这里的shape可以用元组形式，也可以直接写数字，例如： np.random.r 阅读全文

posted @ 2020-06-12 20:33 Picassooo 阅读(278) 评论(0) 推荐(0) 编辑

Lipschitz连续

摘要：百度百科上对Lipschitz连续的介绍挺不错的：Lipschitz连续此外，张贤达的《矩阵分析与应用》第四章第4节中也有对Lipschitz连续的介绍：阅读全文

posted @ 2020-06-11 21:49 Picassooo 阅读(1396) 评论(0) 推荐(0) 编辑

Linux服务器常用命令(二)：CPU核数、逻辑CPU

摘要：1 此条目内容摘自物理CPU、CPU核数、逻辑CPU、超线程基本概念物理CPU 物理CPU是插在主机上的真实的CPU硬件，在Linux下可以数不同的physical id 来确认主机的物理CPU个数。核心数物理CPU下一层概念是核心数，我们常常听到多核处理器，其中的核指的就是核心数。在Lin 阅读全文

posted @ 2020-06-11 20:32 Picassooo 阅读(644) 评论(0) 推荐(0) 编辑

从奇异值角度比较矩阵范数和向量范数

摘要：从奇异值的角度看矩阵范数，会发现与向量范数有一一对应关系：（注：表中涉及到用奇异值表示Frobenius范数，其推导可参考这篇博客）向量的L1范数是L0范数的松弛，并且在一定条件下是等价的。矩阵核范数是rank约束的松弛，并且在一定条件下是等价的。阅读全文

posted @ 2020-06-10 22:42 Picassooo 阅读(727) 评论(0) 推荐(0) 编辑

幂等矩阵的性质及证明

摘要：定义：若

A A = A

$AA=A$ ，则称

A

$A$ 为幂等矩阵。 1.幂等矩阵的特征值只取1和0两个数值证明：设

λ

$\lambda$ 是幂等矩阵

A

$A$ 的特征值，

v

$\bold{v}$ 是与

λ

$\lambda$ 对应的特征向量，则 $\lambda \bold{v}=A\bold{v}=A^2 \bold{v}=\lambda^ 阅读全文

posted @ 2020-06-10 17:06 Picassooo 阅读(13914) 评论(0) 推荐(1) 编辑

Tikhonov正则化

摘要：本文摘自张贤达的《矩阵分析与应用》第六章第2节阅读全文

posted @ 2020-06-10 00:33 Picassooo 阅读(5228) 评论(0) 推荐(0) 编辑

最小二乘法

摘要：本文摘自张贤达的《矩阵分析与应用》第六章第一节阅读全文

posted @ 2020-06-10 00:26 Picassooo 阅读(301) 评论(0) 推荐(0) 编辑

矩阵方程求解方法分类

摘要：本文摘自张贤达的《矩阵分析与应用》第六章阅读全文

posted @ 2020-06-10 00:21 Picassooo 阅读(1237) 评论(0) 推荐(0) 编辑

低秩矩阵恢复和鲁棒主成分分析

摘要：本文摘自本文摘自史加荣等人发表在计算机应用研究杂志的《低秩矩阵恢复算法综述》优化问题式(10)被称为鲁棒主成分分析(Robust Principal Component Analysis). 阅读全文

posted @ 2020-06-09 20:59 Picassooo 阅读(517) 评论(0) 推荐(0) 编辑

r a n k (A^{T} A) = r a n k (A A^{T}) = r a n k (A) = r a n k (A^{T})

$rank(A^TA)=rank(AA^T)=rank(A)=rank(A^T)$

摘要：假设

A

$A$ 是

m * n

$m*n$ 矩阵，可通过证明

A x = 0

$Ax=0$ 和

A^{T} A x = 0

$A^TAx=0$ 这两个n元方程有相同解来证明

r a n k (A^{T} A) = r a n k (A)

$rank(A^TA)=rank(A)$ 。 (1)

A x = 0 \to A^{T} A x = 0

$Ax=0 \rightarrow A^TAx=0$ ，即方程

A x = 0

$Ax=0$ 的解也是

A^{T} A x = 0

$A^TAx=0$ 的解； (2) $A^TAx=0 \rightarr 阅读全文

posted @ 2020-06-09 19:35 Picassooo 阅读(1553) 评论(0) 推荐(0) 编辑

矩阵Frobenius范数、核范数与奇异值的关系

摘要：本文摘自史加荣等人发表在计算机应用研究杂志的《低秩矩阵恢复算法综述》阅读全文

posted @ 2020-06-08 20:34 Picassooo 阅读(7073) 评论(0) 推荐(1) 编辑

范数与正则化

摘要：以下几个资料对范数和正则项的介绍比较好：张贤达《矩阵分析与应用》第六章 Michael Nielsen的Neural Networks and Deep Learning，第三章第2节机器学习中的范数规则化之（一）L0、L1与L2范数机器学习中的范数规则化之（二）核范数与规则项参数选择一文搞阅读全文

posted @ 2020-06-08 16:20 Picassooo 阅读(383) 评论(0) 推荐(0) 编辑

对偶上升法，增光拉格朗日乘子法，交替方向乘子法

摘要：在张贤达的《矩阵分析与应用》第四章第7节和Boyd等人的Distributed Optimization and Statistical Learning via the Alternating Direction Method of Multipliers的第2、3章，有对对偶上升法、增光拉格朗日阅读全文

posted @ 2020-06-06 10:13 Picassooo 阅读(770) 评论(0) 推荐(0) 编辑

拉格朗日函数，拉格朗日对偶函数，KKT条件

摘要：在王书宁译的Boyd著的《凸优化》的第五章有很好的对拉格朗日函数、拉格朗日对偶函数、KKT条件的介绍。阅读全文

posted @ 2020-06-06 10:08 Picassooo 阅读(294) 评论(0) 推荐(0) 编辑

relint, 相对内点集的理解

摘要：本文摘自《矩阵分析与应用》张贤达阅读全文

posted @ 2020-06-05 09:24 Picassooo 阅读(3992) 评论(0) 推荐(0) 编辑

转：Mac 弹出App can’t be opened because Apple cannot check it for malicious software的解决方法

摘要：转：弹出App can’t be opened because Apple cannot check it for malicious software的解决方法亲测有效。阅读全文

posted @ 2020-06-03 12:35 Picassooo 阅读(4056) 评论(0) 推荐(0) 编辑

为什么方阵特征值乘积等于它的行列式值？

摘要：本文摘自知乎为何矩阵特征值乘积等于矩阵行列式值？阅读全文