定义

设 \(f\in Hom(V,V)\),\(W\le V\)。若 \(\forall \eta\in W\)，有 \(f(\eta)\in W\)，则称 \(W\) 是 \(f\) 的不变子空间。
例如：设 \(f\in Hom(V,V)\),\(W\le V\)，则 \(R(f),K(f)\) 均是 \(f\) 的不变子空间。

题目

设 \(f\in Hom(V,V)\)，且 \(f^2=f\)。证明：\(f\) 在 \(V\) 的任意基下的矩阵均相似于 \(\left [\begin{matrix} I& O\\ O& O \end{matrix} \right ]\).

解答

由于同一个空间下的所有基都是相似的，所以只需证明 \(V\) 有一个基是 \([I,O;O,O]\) 即可。
令 \(V_1=\{\eta\in V|f(\eta)=\eta\}\)，\(V_2=\{\eta\in V|f(\eta)=\theta\}\)。则 \(V=V_1\oplus V_2\)。为了证明这个结论，

  1. 证 \(V_1\cap V_2=\theta\)，对于 \(\eta\) 满足 \(f(\eta)=\eta, f(\eta)=\theta\) 要同时满足，则易得 \(\eta=\theta\)。
  2. 证 \(V=V_1+V_2\)，易证 \(V_1+V_2\subseteq V\)，下面证 \(V\subseteq V_1+V_2\)。任取 \(\eta\in V\)，写做 \(\eta = f(\eta)+(\eta - f(\eta))\)，则由 \(f(f(\eta))=f(\eta)\) 得 \(f(\eta)\in V_1\)；
    又由 \(f(\eta-f(\eta))=f(\eta)-f(f(\eta)) = \theta\) 得 \((\eta-f(\eta))\in V_2\)，则 \(V\in V_1+V_2\)。

综上，\(V=V_1+V_2\)。
在 \(V_1\) 选一组基 \([e_1,\cdots,e_r]\)，在 \(f\) 映射成 \([e_1,\cdots,e_r]\) ,保持不变。在 \(V_2\) 内选一组基 \([e_{r+1},\cdots,e_s]\)，每个基在 \(f\) 下都映射成 \(\theta\)。则根据变换矩阵的定义，有

\[[f(e_1),\cdots,f(e_s)]=[e_1,\cdots,e_s]\left [ \begin{matrix} 1 & 0 & 0 & \cdots & 0\\ \cdots& \cdots& \cdots& \cdots & 0\\ 0 & \cdots & 1 &\cdots & 0 \\ \cdots& \cdots& \cdots& \cdots & 0\\ 0 & 0 & 0 & 0 & 0\\ \end{matrix} \right ] = \left [ \begin{matrix} I & O\\ O & O \end{matrix} \right ] \]

证毕！