七、(本题10分) 设 $A,B$ 均为 $m imes n$ 阶实矩阵, 满足 $A'B+B'A=0$. 证明: $$r(A+B)geqmax{r(A),r(B)},$$并且等号成立的充要条件是存在 $m$ 阶方阵 $P$, 使得 $B=PA$ 或 $A=PB$.
证法一 由 $A'B+B'A=0$ 可得 $$(A+B)'(A+B)=A'A+B'B.$$ 设 $V_Asubseteqmathbb{R}^n$ 为线性方程组 $Ax=0$ 的解空间, $V_B$ 和 $V_{A+B}$ 同理定义, 则有 $V_Acap V_Bsubseteq V_{A+B}$. 反之, 对任一 $x_0in V_{A+B}$, 在上述等式的两边同时左乘 $x_0'$, 右乘 $x_0$, 可得 $$0=x_0'(A+B)'(A+B)x_0=x_0'A'Ax_0+x_0'B'Bx_0=(Ax_0)'(Ax_0)+(Bx_0)'(Bx_0),$$ 从而有 $Ax_0=Bx_0=0$, 即 $x_0in V_Acap V_B$, 于是 $V_Acap V_B=V_{A+B}$. 注意到 $V_{A+B}subseteq V_A$, $V_{A+B}subseteq V_B$, 由解空间的维数公式可得 $r(A+B)geq r(A)$, $r(A+B)geq r(B)$, 从而 $r(A+B)geqmax{r(A),r(B)}$ 成立. 若等号成立, 不妨设 $r(A+B)=r(A)geq r(B)$, 则 $V_{A+B}=V_Asubseteq V_B$, 由白皮书第四章解答题 13 可知: 存在 $m$ 阶方阵 $P$, 使得 $B=PA$. 反之, 若 $B=PA$, 则 $r(B)leq r(A)$ 且 $r(A+B)=r((I_m+P)A)leq r(A)$, 从而等号成立.
证法二 由高代教材的第三章复习题 41 或白皮书的例 3.72 可知: $$r(A+B)=r((A+B)'(A+B))=r(A'A+B'B).$$ 注意到 $A'A$ 与 $B'B$ 都是半正定阵, 故由白皮书的例 9.73 可知: $$r(A'A+B'B)=r(A'Amid B'B)geq max{r(A'A),r(B'B)}=max{r(A),r(B)}.\,\,\,\,Box$$
注 本题完全做对的同学有: 宁盛臻、朱民哲、沈伊南、何陶然、董瀚泽.