Recovering Low-Rank Matrices From Few Coefficients In Any Basis

目录

• 引
• 主要结果
  • 定理2，3
  • 定理4
  • 直观解释

Recovering Low-Rank Matrices From Few Coefficients In Any Basis-David Gross

引

依旧是一个重构矩阵的问题，这篇论文的符号有些奇怪，注意一下。假设有一个矩阵$\rho \in \mathbb{R}^{n \times n}$,其秩为$r \ll n$。有一组基$w_a, a=1,\ldots, n^2$，是已知的。假设我们观测到的是，一组内积$\{ (\rho, w_a) | a \in \Omega \}$，其中$(\rho, w_a) = tr(\rho^{\dagger}w_a)$，$\rho^{\dagger}$表示$\rho$的共轭转置。在这些条件下，我们是否能够从$\{ (\rho, w_a) | a \in \Omega \}$中恢复出$\rho$。

一些符号说明：
$\|\rho\|_1$为$\rho$的奇异值之和，即此为矩阵核范数。
$\|\rho\|_2$为$\rho$的F范数，而非一般符号代表的谱范数。
$\|\rho\|$为$\rho$的谱范数。

作者强调，这个问题，是可以办到的，不过其基需要满足一个coherence条件：

且$\rho^{\dagger} = \rho$，即$\rho$为酉矩阵（不过作者提到，似乎$\rho$即便不满足此条件，也可以通过一种转化来求解）。

主要结果

作者通过求解下述问题来恢复矩阵$\rho$:

需要指明的一点是，如果$(\rho, w_a),a \in \Omega$中大部分为0，那么想要恢复出$\rho$是非常困难的（因为这意味着我们可用的信息非常少）。

定理2，3

下为定理2，其中的标准基为：$\{e_i e_j^{\dagger}\}_{i,j=1}^n$，即仅有$i$行$j$列元素为1，其余均为0的$n \times n$矩阵所构成的基。

作者的结论更为一般，可以拓展到任意的基：

定理4

接下来还有定理4：

定理4针对的是一种特殊的基——Fourier-type基，介绍此的原因是，作者先证明此定理，再通过一些转换来证明定理3的。

直观解释

作者通过俩幅图，给出了一些直观的解释。

先来看(a)。我们可以将整个线性空间分成$\Omega$和$\Omega^{\bot}$。因为我们已有的信息是$\Omega$，问题(1)中满足约束的矩阵$\sigma$在空间中形成一个超平面，即图中的$A$，而我们所期望的$\rho$是其中的一点。

再来看(b)，因为我们希望的是$\rho$是问题(1)的最优解，最好还是唯一的。如果真的如此，那么$B = \{\sigma | \|\sigma\|_1 \le \|\rho\|_1\}$这个集合只能在平面$A$的上方或者下方，实际上，就是平面A是$B$的支撑超平面，其支撑点为$\rho$。

当然，这个性质并没有这么容易达成，其等价于要满足：

$$\|\rho + \Delta\|_1 \ge \|\rho\|_1$$

对于$A$中任意的点$\rho + \Delta \neq \rho$成立。但是呢，直接证明是困难的，所以作者寻求一个对偶条件即下式：

$$\|\rho + \Delta\|_1 > \|\rho\|_1 + (Y, \Delta)，\Delta \neq 0$$

关于某个$Y$成立，而且$Y$必须与超平面$A$垂直。这个$Y$能否找到，就是$\rho$能否恢复的关键。