Matrix Analysis: Generalized Inverses, Special Matrices, and Matrix Products

Hyacehila

矩阵分析及其应用希望研究矩阵论中未能叙述完全的近现代代数理论中的矩阵分支,首先我们考虑研究本文“矩阵的广义逆”部分与本文“特殊积”部分和本文“特殊矩阵”部分

至于进一步的矩阵分析还研究什么内容,我们留给后续的课程研究

矩阵的广义逆

广义逆的基本概念

广义逆矩阵是通常逆矩阵的推广,这种推广的必要性,是线性方程组的求解问题的实际需要,设有线性方程组

Ax=b,Ax=b,

AAnn 阶方阵,且 detA0detA\neq0 时,则方程组的解存在且惟一,并可写成

x=A1b.x=A^{-1}b.

但是,在许多实际问题中所遇到的矩阵AA往往是奇异方阵或是任意的m×nm\times n矩阵(一般mnm\neq n),显然不存在通常的逆矩阵A1A^{-1}.这就促使人们去想象能否推广逆矩阵的概念,引进某种具有普通逆矩阵类似性质的矩阵 GG,使得其解仍可以表示为

x=Gb.x=Gb.

彭诺斯指出:对任意复数矩阵 Am×nA_{m\times n},如果存在复矩阵 Gn×mG_{n\times m},满足如下条件

AGA=A,GAG=G,(GA)H=GA,(AG)H=AG,\begin{aligned}AGA=&A,\\GAG=&G,\\(GA)^{\mathrm{H}}=&GA\:,\\(AG)^{\mathrm{H}}=&AG\:,\\\end{aligned}

则称GGAA的一个穆尔-彭诺斯广义逆,并把上面 4 个方程叫做穆尔-彭诺斯方程,简称 M-P方程.

由于这四个方程都有一定的优秀性质,满足部分也是很好的,因此我们给出定义有

定义:设 ACm×nA\in\mathbb{C}^{m\times n},若有某个 GCn×mG\in\mathbb{C}^n\times m,满足 M-P 方程中的全部或一部分,则称 GGAA 的广义逆矩阵,简称为广义逆.

我们知道,逆矩阵可以只满足部分性质,因此实际上我们可以给出15种广义逆(C41+C42+C43+C44=15\mathrm{C}_4^1+\mathrm{C}_4^2+\mathrm{C}_4^3+\mathrm{C}_4^4=15) 但是只有部分比较常用,分别为

  • 满足第一个方程 记做A{1}A\{1\} 称为减号逆 AA^-
  • 满足方程1,2 记做A{1,2}A\{1,2\} 称为自反减号逆 ArA^-_r
  • 满足方程1,3记做A{1,3}A\{1,3\} 称为最小范数广义逆 AmA^-_m
  • 满足方程1,4 记做A{1,4}A\{1,4\} 称为最小二乘广义逆 AlA^-_l
  • 满足方程1,2,3,4 记做A{1,2,3,4}A\{1,2,3,4\} 称为加号逆,伪逆 穆尔-彭诺斯广义逆 A+A^+

只有加号逆A{1,2,3,4}A\{1,2,3,4\} 是确定的,其余广义逆均不唯一确定,我们在后面的叙述中会说明这一点。

减号逆 AA^-

定义:设有m×nm\times n实矩阵A(mnA(m\leqslant n,当m>nm>n时,可讨论AT).A^{\mathrm{T}}).若有一个n×mn\times m实矩阵(记为AA^-)存在,使下式成立,则称AA^-AA的减号逆或gg逆:

AAA=A.AA^-A=A.

A1A^{-1}存在时,显然A1A^-1满足上式,可见减号逆 AA^- 是普通逆矩阵 A1A^-1 的推广;另外,由AAA=AAA^-A=A

(AAA)T=AT,AT(A)TAT=AT.(AA^-A)^\mathrm{T}=A^\mathrm{T},\quad\text{即}\quad A^\mathrm{T}(A^-)^\mathrm{T}A^\mathrm{T}=A^\mathrm{T}.

可见,当AA^-AA 的一个减号逆时,(A)T(A^-)^\mathrm{T}就是ATA^\mathrm{T} 的一个减号逆.

注意:减号逆不唯一确定 ,例如

A=[101010],B=[100010],C=[100001]\boldsymbol{A}=\begin{bmatrix}1&0\\1&0\\1&0\end{bmatrix},\boldsymbol{B}=\begin{bmatrix}1&0&0\\0&1&0\end{bmatrix},\boldsymbol{C}=\begin{bmatrix}1&0&0\\0&0&1\end{bmatrix}

此时 B,CB,C 均是 AA 的减号逆

下面,我们讨论证明减号逆的存在性,也就是去寻找任意矩阵的减号逆

定理:任给 m×n 矩阵 A,那么减号逆 A定存在 ,但不惟一.\text{任给 }m\times n\text{ 矩阵 }A,\text{那么减号逆 }A^--\text{定存在 },\text{但不惟一}.

如果 rankA=0rankA=0 那么一定有 任意XRn×mX\in R^{n\times m} 都有 0X0=00X0=0 因此减号逆存在且不唯一

如果 rankA0rankA\neq0 则 一定存在满秩的mm 阶矩阵PP 和 满秩的nn 阶矩阵QQ 使得

PAQ=[Ir000]=BRm×nPAQ=\begin{bmatrix}I_r&0\\0&0\end{bmatrix}=B\in\mathbb{R}^{m\times n}

实际上就是初等变换为单位矩阵,P,QP,Q都是对应初等行列变换的矩阵

根据一个此处没有给出的性质 有

B=[Ir](可任意选取).\boldsymbol{B}^-=\begin{bmatrix}\boldsymbol{I}_r&&\star\\\star&&\star\end{bmatrix}\quad(\star\text{可任意选取}).

再根据一个此处没有给出的性质 有

A=Q[Ir]PA^-=Q{\begin{bmatrix}I_r&&\star\\\\\star&&\star\end{bmatrix}}P

由于\star的任意性,减号逆存在但不唯一,证毕

我们给出一个计算P,QP,Q的示意,AA是2行3列矩阵,通过初等行列变换让左上角的2×32\times3矩阵为左上角的I2I_2,其余全为0即可

[AI2I30]=[1121022301100010001]\begin{bmatrix} A& I_2\\ I_3&0 \end{bmatrix}=\begin{bmatrix}1&-1&2&1&0\\2&2&3&0&1\\1&0&0&\\0&1&0&\\0&0&1&\end{bmatrix}

定理:rankArankA.\quad\mathrm{rank}A^-\geqslant\mathrm{rank}A.

自反减号逆 ArA^-_r

普通的逆矩阵有着自反的性质,也就是(A1)1=A(A^{-1})^{-1}=A 但是一般的减号逆不满足这一点,例如

A=[101010],A=[100010]\mathbf{A}=\begin{bmatrix}1&0\\1&0\\1&0\end{bmatrix},\quad\mathbf{A}^-=\begin{bmatrix}1&0&0\\0&1&0\end{bmatrix}

容易验证 AAA=A.AA^-A=A. 一侧的减号逆成立,但是

AAA=[100100]AA^-AA^-=\begin{bmatrix}1&0&0\\1&0&0\end{bmatrix}\neq A^-

也就是说 (A1)1=A(A^{-1})^{-1}=A 不成立,因此我们需要对减号逆的概念进行限制,使其满足自反的性质,后面我们主要计算的也是自反减号逆

定义:对于一个m×nm\times n实矩阵AA,使

AGA=AGAG=GAGA= A\text{及}GAG= G

同时成立的n×mn\times m实矩阵GG,称为是AA的一个自反减号逆

下面我们来研究自反减号逆的计算方法,首先我们需要引入左右逆的概念

定义:设 ARm×nA\in\mathbb{R}^m\times n,若有 GRn×mG\in\mathbb{R}^n\times m,使得

AG=IGA=I,AG=I\quad\text{或}\quad GA=I,

则称GGAA 的右逆(或左逆),记为 AR1(A_{\mathbb{R}}^{-1}(AL1)A_{\mathbb{L}}^{-1}),即AAR1=IAA_{\mathbb{R} }^{- 1}= IAL1A=I.A_{\mathbb{L} }^{- 1}A= I.

在一般情况下,AR1AL1,A_{\mathbb{R}}^{-1}\neq A_{\mathbb{L}}^{-1}.若 AR1=AL1A_{\mathbb{R}}^{-1}=A_{\mathbb{L}}^{-1},则 A1A^{-1}存在,且 A1=AR1=AL1.A^{-1}=A_{\mathbb{R}}^{-1}=A_{\mathbb{L}}^{-1}.

定理:设 A 是行最大秩(行满秩)的m×nm\times n实矩阵(mnm\leqslant n),则必存在AA的右逆,

AR1=AT(AAT)1;A_{\mathrm{R}}^{-1}=A^{\mathrm{T}}(AA^{\mathrm{T}})^{-1}\:;

同理:设A\boldsymbol{A}是列最大秩(列满秩)的n×mn\times m实矩阵(mn)m\geqslant n),则必存在A{A}的左逆,

AL1=(ATA)1AT.A_{\mathrm{L}}^{-1}=(A^{\mathrm{T}}A)^{-1}A^{\mathrm{T}}.

从定理可以看出,只有m=nm=n并且AA满秩的时候,左逆和右逆才同时存在并且相等,等于其逆矩阵A1A^{-1}

定理:根据前定理计算出的左逆和右逆满足下面的性质

  • 满足方程1 AAR1A=A(AAL1A=A)AA_{\mathrm{R}}^{-1}A=A\quad(AA_{\mathrm{L}}^{-1}A=A)
  • 满足方程2 AR1AAR1=AR1(AL1AAL1=AL1)A_\mathrm{R}^{-1}AA_\mathrm{R}^{-1}=A_\mathrm{R}^{-1}\quad(A_\mathrm{L}^{-1}AA_\mathrm{L}^{-1}=A_\mathrm{L}^{-1})
  • 满足方程3 (AR1A)T=AR1A(AL1A)T=AL1A(A_{\mathrm{R}}^{-1}A)^{\mathrm{T}}=A_{\mathrm{R}}^{-1}A\quad(A_{\mathrm{L}}^{-1}A)^{\mathrm{T}}=A_{\mathrm{L}}^{-1}A
  • 满足方程4 (AAR1)T=AAR1(AAL1)T=AAL1(AA_{\mathrm{R}}^{-1})^{\mathrm{T}}=AA_{\mathrm{R}}^{-1}\quad(AA_{\mathrm{L}}^{-1})^{\mathrm{T}}=AA_{\mathrm{L}}^{-1}

也就是说,对于行或者列满秩的矩阵,按照前面计算方法给出的左逆或者右逆,不仅是减号逆,还是自反减号逆,最小范数广义逆,最小二乘广义逆,加号逆。

下面介绍自反减号逆的计算方法,这种方法具备普适性,继承自本文“减号逆 AA -”部分,并且将很好的扩展到后面的内容中。

AA是行或者列满秩的矩阵的时候,使用左右逆即可,下面只讨论不行列满秩的情况,此时一定能找到

PAQ=[Ir000]\mathbf{PAQ}=\begin{bmatrix}\mathbf{I}_r&\mathbf{0}\\\mathbf{0}&\mathbf{0}\end{bmatrix}

这等价于

A=P1[Ir000]Q1=P1[Ir0](Ir0)Q1\mathbf{A}=\mathbf{P}^{-1}\begin{bmatrix}\mathbf{I}_r&\mathbf{0}\\\mathbf{0}&\mathbf{0}\end{bmatrix}\mathbf{Q}^{-1}=\mathbf{P}^{-1}\begin{bmatrix}\mathbf{I}_r\\\mathbf{0}\end{bmatrix}(\mathbf{I}_r\mathbf{0})\mathbf{Q}^{-1}

B=P1[Ir0],C=(Ir0)Q1B=P^{-1}\begin{bmatrix}I_r\\0\end{bmatrix},\quad C=(I_r0)Q^{-1}

那么有(这其实就是矩阵论中的最大秩分解,不过叙述语言有改变

A=BCA=BC

计算

BL1=(BTB)1BT,CR1=CT(CCT)1B_\mathrm{L}^{-1}=(B^\mathrm{T}B)^{-1}B^\mathrm{T},\quad C_\mathrm{R}^{-1}=C^\mathrm{T}(CC^\mathrm{T})^{-1}

因此有

Ar=CR1BL1A_\mathrm{r}^-=C_\mathrm{R}^{-1}B_\mathrm{L}^{-1}

经过验证,其满足 M-P 方程中的1,2 这就是自反减号逆

最小范数广义逆 AmA^-_m

定义:设 ARm×n(mn)A\in\mathbb{R}^{m\times n}\left(m\leqslant n\right),如果有一个 n×mn\times m 阶矩阵 GG,满足

AGA=A(GA)T=GA,AGA=A\quad\text{及}\quad(GA)^\mathrm{T}=GA\:,

则称GGAA的一个最小范数广义逆,记为Am.A_\mathrm{m}^-.

最小范数广义逆 AmA^-_m有下面的计算方法

  • 当矩阵AA行或列满秩的时候,使用左右逆即可(前面已经证明)
  • 当矩阵AA不满足行或列满秩的时候,使用最大秩分解得到A=BCA=BC 则有Am=CR1BLA_{\mathrm{m}}^{-}=C_{\mathrm{R}}^{-1}B_{\mathrm{L}}^{-} 也就是说计算方法和本文“自反减号逆 ArA -_r”部分完全一致

定理:我们还可以给出一个更为简单的公式计算最小范数广义逆 AmA^-_m

Am=AT(AAT)A_{\mathrm{m}}^{-}=A^{\mathrm{T}}(AA^{\mathrm{T}})

最小二乘广义逆 AlA^-_l

定义:设ARm×n(mn)A\in\mathbb{R}^{m\times n}\left(m\leqslant n\right),若有一个n×mn\times m阶矩阵GG满足AGA=AAGA= A(AG)T=AG( AG) ^{\mathrm{T} }= AG 则称GGAA 的一个最小二乘广义逆,记为 Al.A_{\mathrm{l}}^{-}.

最小范数广义逆 AmA^-_m有下面的计算方法

  • 当矩阵AA行或列满秩的时候,使用左右逆即可(前面已经证明)
  • 当矩阵AA不满足行或列满秩的时候,使用最大秩分解得到A=BCA=BC 则有Am=CR1BLA_{\mathrm{m}}^{-}=C_{\mathrm{R}}^{-1}B_{\mathrm{L}}^{-} 也就是说计算方法和本文“自反减号逆 ArA -_r”部分完全一致

定理:我们还可以给出一个更为简单的公式计算最小二乘广义逆 AlA^-_l

A1=(ATA)AT.A_1^-=(A^\mathrm{T}A)^-A^\mathrm{T}.

加号逆A+A^+

前面我们对减号逆AA^{-}加以不同的限制,得出减号逆的具有不同性质的减号逆,如自反广义逆ArA_\mathrm{r}^-、最小范数广义逆AmA_\mathrm{m}^-、最小二乘广义逆AlA_\mathrm{l}^-等.

其实,还有一类更特殊也更为重要广义逆,这就是将要介绍的加号逆A+A^+.它的实质是在减号逆的条件 AGA=AAGA=A 的基础上用上述所有条件同时加以限制.用这样的方式得出的A+A^+,不仅在应用上特别重要,而且有很多有趣的性质.

定义:设ARm×n(mn)A\in\mathbb{R}^{m\times n}\left(m\leqslant n\right),若有一个n×mn\times m阶矩阵GG同时满足

AGA=A,GAG=G,(GA)H=GA,(AG)H=AG,\begin{aligned}AGA=&A,\\GAG=&G,\\(GA)^{\mathrm{H}}=&GA\:,\\(AG)^{\mathrm{H}}=&AG\:,\\\end{aligned}

则称GGAA的一个穆尔-彭诺斯广义逆,或者称为加号逆,伪逆,记为A+A^+

从定义可以看出,加号逆和逆一样,两个矩阵处于完全相同的地位,也就是

(A+)+=A(A^+)^+=A

定理:我们可以用如下方式计算加号逆,如果A=BCA=BC是最大秩分解,则有

X=CT(CCT)1(BTB)1BTX=C^\mathrm{T}(CC^\mathrm{T})^{-1}(B^\mathrm{T}B)^{-1}B^\mathrm{T}

AA的加号逆;当然对于行或列满秩的情况,左右逆仍旧可用;对于本文“自反减号逆 ArA -_r”部分给出的不满秩的分解方法仍旧可用;各方法给出的结果一致。

定理:对于任意ARm×nA\in R^{m\times n} 其加号逆 A+A^+ 存在且唯一

推论:当AAnn阶满秩方阵时,也就是A1A^{-1}普通逆存在,那么有

A+=A1=AA^+=A^{-1}=A^-

定理:加号逆A+A^+ 有下面的性质

  • (AT)+=(A+)T(A^{\mathrm{T}})^{+}=(A^{+})^{\mathrm{T}}
  • A+=(ATA)+AT=AT(AAT)+{A}^+=({A}^{T}{A})^+{A}^{T}={A}^{T}({A}{A}^{T})^+
  • (ATA)+=A+(AT)+(A^\mathrm{T}A)^+=A^+(A^\mathrm{T})^+
  • rankA=rankA+=rankA+A=rankAA+\mathrm{rank}A=\mathrm{rank}A^+=\mathrm{rank}A^+A=\mathrm{rank}AA^+

特殊矩阵

特殊矩阵希望研究如对角矩阵,三角矩阵,对称矩阵,这些具有特殊的性质的矩阵。那些已经在高等代数与矩阵论研究过的内容在这里不会重复叙述。我们这里主要研究的矩阵包括非负矩阵,随机矩阵,M与H矩阵等。

非负矩阵

在非常多的应用领域,经常出现元素都是非负实数的矩阵。在数学上我们统称其为非负矩阵,他的基本特征已经是矩阵论中不可缺少的一部分。本节就来讨论非负矩阵的性质以及其衍生。

非负矩阵与正矩阵

定义:设 A=(aij)Rm×nA=(a_{ij})\in\mathbb{R}^{m\times n},如果

aij0,i=1,,m;j=1,,n,a_{ij}\geqslant0\:,\quad i=1\:,\cdots,m\:;\:j=1\:,\cdots,n\:,

AA的所有元素是非负的,则称AA为非负矩阵,记作A0;A\geqslant0;若式中严格不等号成立,即aij>0a_{ij}>0 (i=1,,m;j=1,,ni=1,\cdots,m;j=1,\cdots,n),则称 AA 为正矩阵,记为A>0.\boldsymbol{A}>0.

A,BRm×nA,{B}\in{R}^{m\times n},如果成立 AB0A-{B\geqslant}0,则记作 AB;A\geqslant{B}; 如果成立 AB>0A-{B>}0,则记作 A>B.A>{B}.

对于任意的 A=(aij)Cm×n{A}=(a_{ij})\in\mathbb{C}^{m\times n},引进记号

A=(aij),\mid A\mid=(\mid a_{ij}\mid),

即表示以 aija_{ij},之模aij|a_{ij}|为元素所得的非负矩阵;

特别地,当 x=(x1,,xn)TCnx=(x_1,\cdots,x_n)^{\mathrm{T}}\in\mathbb{C}^n时,x=(| \boldsymbol{x}| = ( | x1x_1 | ,, \cdots , | xnx_n | )T) ^\mathrm{T} 表示一个非负向量.

定理:非负矩阵容易给出下面的性质 A,B,C,DCm×nA,B,C,D\in\mathbb{C}^{m\times n}

  • A0,并且A=0 当且仅当 A=0|A|\geqslant0,\text{并且}|A|=0\text{ 当且仅当 }A=0
  • 对任意复数 α,αA=αA\text{对任意复数 }\alpha,\text{有}\mid\alpha A\mid=\mid\alpha\mid\mid A\mid
  • A+BA+B|A+B|\leqslant|A|+|B|
  • 若 A0,B0,a,b 是非负实数,则 aA+bB0\text{若 }A\geqslant0,B\geqslant0,a,b\text{ 是非负实数,则 }aA+bB\geqslant0
  • 若 AB,且 CD,则 A+CB+D\text{若 }A\geqslant B,\text{且 }C\geqslant D,\text{则 }A+C\geqslant B+D
  • 若 AB,且 BC,则 AC\text{若 }A\geqslant B,\text{且 }B\geqslant C,\text{则 }A\geqslant C
  • 一般的,A0A\ge0A0A\ne0 不能推出 A>0A>0

定理:非负矩阵容易给出下面的性质 A,B,C,DCm×n,xCnA,B,C,D\in\mathbb{C}^{m\times n},x\in C^n

  • AxAx|Ax|\leqslant|A|\mid x|
  • ABAB|AB|\leqslant|A|\mid B|
  • 对任意正整数 m,AmAm\text{对任意正整数 }m,\text{有}\mid A^m\mid\leqslant\mid A\mid^m
  • 若 0AB,0CD,则 0ACBD\text{若 }0\leqslant A\leqslant B,0\leqslant C\leqslant D,\text{则 }0\leqslant AC\leqslant BD
  • 若 0AB,对任意正整数 m,有 0AmBm\text{若 }0\leqslant A\leqslant B,\text{对任意正整数 }m,\text{有 }0\leqslant A^m\leqslant B^m
  • 若 A0(A>0),对任意正整数 m,Am0(Am>0)\text{若 }A\geqslant0(A>0),\text{对任意正整数 }m,A^m\geqslant0(A^m>0)
  • A>0,x0x0,Ax>0若A>0,x\geqslant0且x\neq0,则Ax>0
  • AB,A2A2B2\text{若}|A|\leqslant B,\text{则}\parallel A\parallel_2\leqslant\parallel\mid A\mid\parallel_2\leqslant\parallel B\parallel_2

定理 (谱半径的单调性):设 A,BCn×nA,B\in\mathbb{C}^{n\times n},若AB|A|\leqslant\boldsymbol{B},则

ρ(A)ρ(A)ρ(B).\rho(A)\leqslant\rho(\mid A\mid)\leqslant\rho(B).

我们容易给出两个关于谱半径的推论

  • 设 A,BRn×n,若 0AB,则 ρ(A)ρ(B).\text{设 }A,B\in\mathbb{R}^{n\times n},\text{若 }0\leqslant A\leqslant B,\text{则 }\rho(A)\leqslant\rho(B).
  • 设 ARn×n,若 A0,A(k)是 A 的任一主子矩阵,则 ρ(A(k))ρ(A).\text{设 }A\in\mathbb{R}^{n\times n},\text{若 }A\geqslant0,A^{(k)}\text{是 }A\text{ 的任一主子矩阵},\text{则 }\rho(A^{(k)})\leqslant\rho(A).  特别地 ,max1inaiiρ(A).\text{ 特别地 },\max_{1\leq i\leq n}\langle a_{ii}\rangle\leqslant\rho(A).

定理 (佩龙定理,Perron建立的正矩阵特征值与特征向量的性质的定理): 设 ARn×nA\in\mathbb{R}^{n\times n},且 ρ(A)\rho(A)为其谱半径,若 A>0(A>0(正矩阵),则

  • ρ(A)A\rho(\boldsymbol{A})为\boldsymbol{A}的正特征值,其对应的一个特征向量 yRny\in\mathbb{R}^n必为正向量;
  • AA 的任何其他特征值 λ\lambda,都有λ<ρ(A);|\lambda|<\rho(A);
  • ρ(A)\rho(A)AA 的单特征值.

推论:正矩阵 A 的“模等于 ρ(A)”的特征值是惟一的\text{正矩阵 }\mathbf{A}\text{ 的“模等于 }\rho(\mathbf{A})\text{”的特征值是惟一的}

我们可以再给出两个重要的定理,他们也有着很好的应用效果

定理:设 A=(aij)n×n,B=(bij)n×nRn×nA=(a_{ij})_{n\times n},\boldsymbol{B}=(b_{ij})_{n\times n}\in\mathbb{R}^{n\times n}为非负矩阵ai,bij,i,j=1,2,...,n|a_i,|\leqslant b_{ij},i,j=1,2,...,n,则

λ(A)i=1nzCzaiiρ(B)bii\lambda(A)\subset\bigcup\limits_{i=1}^n\langle z\in\mathbb{C}\big|\mid z-a_{ii}\:|\leqslant\rho(B)-b_{ii}\:\rangle

定理:设 ARn×nA\in\mathbb{R}^n\times n,如果 A>0,xA>0,xAA 的对应于特征值ρ(A)\rho(A)的正特征向量,又 yyATA^{\mathrm{T}}的对应于特征值 ρ(A)\rho(A)的任一正特征向量,则

limm[ρ(A)1A]m=(yTx)1xyT.\lim_{m\to\infty}[\rho(A)^{-1}A]^m=(y^\mathrm{T}x)^{-1}xy^\mathrm{T}.

不可约非负矩阵

下面我们继续推广Penno定理到一类更加广义的矩阵,他还属于非负矩阵,但是没有正矩阵这么简单了

在线性代数中,我们知道要对调矩阵 AA 的第i,ji,j两行(列),相当于将AA左(右)乘对应的对调矩阵Ii,jI_{i,j}

Ii,j=(101101)\boldsymbol{I}_{i,j}=\begin{pmatrix}1\\&\ddots\\&&0&\cdots&1\\&&\vdots&\ddots&\vdots\\&&1&\cdots&0\\&&&&&\ddots\\&&&&&&1\end{pmatrix}

我们把一系列对调矩阵的积PP称为置换矩阵(或排列矩阵),明显的有P1=PTP^{-1}=P^T

定义 (可约与不可约矩阵) :设 ARn×n(n2)A\in\mathbb{R}^{n\times n}(n\geqslant2),若存在 nn 阶置换矩阵 PP,使

PAPT=(A11A120A22),\boldsymbol{PAP}^\mathrm{T}\:=\:\left(\begin{array}{cc}\boldsymbol{A}_{11}&\boldsymbol{A}_{12}\\\boldsymbol{0}&\boldsymbol{A}_{22}\end{array}\right),

其中A11A_{11}rr阶方阵,A22,A_{22}nrn-r阶方阵( lr<n\leqslant r<n),则称AA为可约(可分)矩阵,否则称AA为不可约矩阵. 实际上就是根据多次对调能否产生块三角

明显的,如果所有元素都非0,那么一定不可约

可约的概念来源于线性方程组的求解问题.一个线性方程组的系数矩阵是可约的,表明该方程组可通过适当调整方程和未知数的次序,化为两个低阶的方程组来求解.即如果线性方程组

Ax=bAx=b

的系数矩阵AA可约时,则可找到置换矩阵PP使AA

PAPT=(A11A120A22).\boldsymbol{PAP}^\mathrm{T}\:=\:\left(\begin{matrix}\boldsymbol{A}_{11}&\boldsymbol{A}_{12}\\\boldsymbol{0}&\boldsymbol{A}_{22}\end{matrix}\right).

于是原方程组可化为

PAPT(Px)=Pb.PAP^{\mathrm{T}}(Px)=Pb.

依次记y=px=(y1T,y2T)Ty=px=(\mathbf{y}_1^\mathrm{T},\mathbf{y}_2^\mathrm{T})^\mathrm{T}B^=Pb=(b^1T,b^2T)T\hat{\boldsymbol{B}}=Pb=(\hat{\boldsymbol{b}}_1^\mathrm{T},\hat{\boldsymbol{b}}_2^\mathrm{T})^\mathrm{T},就有

{A11y1+A12y2=b^1,A22y2=b^2.\begin{cases}\boldsymbol{A}_{11}\boldsymbol{y}_1+\boldsymbol{A}_{12}\boldsymbol{y}_2=\boldsymbol{\hat{b}}_1,\\\boldsymbol{A}_{22}\boldsymbol{y}_2=\boldsymbol{\hat{b}}_2.\end{cases}

于是方程组化为两个独立的低阶方程组,比直接解原方程组要方便、简单. 同样 , AA 的特征多项式也化为两个低阶矩阵的特征多项式的乘积.

定理(判断是否可约):设ARn×nA\in R^{n\times n}

  • A为不可约矩阵的充分必要条件是AT为不可约矩阵A为不可约矩阵的充分必要条件是A^T为不可约矩阵
  • 如果A是不可约非负矩阵,Bn阶非负矩阵,A+B是不可约非负矩阵如果A是不可约非负矩阵,B是n阶非负矩阵,则A+B是不可约非负矩阵
  • n(2)阶非负矩阵 A 不可约的充分必要条件是存在正整数 sn1n(\geqslant2)\text{阶非负矩阵 A 不可约的充分必要条件是存在正整数 }s\leqslant n-1 使得(I+A)s>0(I+A)^s>0

    定理 (佩龙-弗罗贝尼乌斯定理) :设 ARn×nA\in\mathbb{R}^{n\times n}是不可约非负矩阵,则

  • AA有一正实特征值恰等于它的谱半径 ρ(A)\rho(A),并且存在正向量 xRnx\in\mathbb{R}^n,使得Ax=ρ(A)xAx= \rho ( A) x
  • ρ(A)\rho(A)AA 的单特征值;
  • AA的任意元素(一个或多个)增加时,ρ(A),\rho(A)增加.

值得提出的是,对于一般不可约非负矩阵AA,佩龙-弗罗贝尼乌斯定理并不能保证AA的“模等于 ρ(A)\rho(A)”的特征值是惟一的,Penno定理的这个推论无法推广

我们仍旧给出一些很有价值的定理在本节的结尾


定理:设 A=(aij)n×n\boldsymbol{A}=(a_{ij})_{n\times n}为不可约非负矩阵,则或者

j=1naij=ρ(A),i=1,2,,n,\sum_{j=1}^na_{ij}\:=\:\rho(A\:)\:,\quad i\:=\:1\:,2\:,\cdots,n\:,

或者

min1inj=1naij<ρ(A)<max1inj=1naij.\min_{1\leqslant i\leqslant n}\sum_{j\:=\:1}^na_{ij}\:<\rho(A)<\max_{1\leqslant i\leqslant n}\sum_{j\:=\:1}^na_{ij}\:.

推论:AA为不可约非负矩阵,则对任意给定的正向量x=(x1,x2,,xn)Tx=(x_1,x_2,\cdots,x_n)^{\mathrm{T}},或者有

1xij=1naijxj=ρ(A),i=1,2,,n\frac{1}{x_i}\sum_{j=1}^na_{ij}x_j=\rho(A)\:,\quad i=1,2,\cdots,n

或者有

min1in(1xij=1naijxj)<ρ(A)<max1in(1xij=1naijxj).\min_{1\leqslant i\leqslant n}\biggl(\frac{1}{x_{i}}\sum_{j=1}^{n}a_{ij}x_{j}\biggr)<\rho(A)<\max_{1\leqslant i\leqslant n}\biggl(\frac{1}{x_{i}}\sum_{j=1}^{n}a_{ij}x_{j}\biggr).

素矩阵与循环矩阵

现转到非负矩阵进一步的分类问题上.为此,引进一类介于不可约非负矩阵与正矩阵之间的矩阵——素矩阵与循环矩阵的概念,素矩阵有多种不同的定义方式,这里采用按谱半径的重数来定义,另外的方式作为性质.

定义:设AAnn阶非负矩阵,且有mm个特征值的模均等于谱半径ρ(A)\rho(\boldsymbol{A}),则当m=1m=1 时,就称方阵AA为素矩阵(或本原矩阵);当m>1m>1时,就称AA是循环矩阵(或非素矩阵).mm 统称为A 的非素性指标。

定理:设A,BA,B均为nn阶非负矩阵,并且AA是素矩阵,则

  • ATA^{\mathrm{T}} 也是素矩阵;
  • 对任一正整数k,Akk,A^k也是素矩阵;
  • A+BA+ B 也是素矩阵.

定理 :非负矩阵AA是素矩阵(本原矩阵)的充分必要条件,是存在某个正整数 k, 使得Ak>0.A^k>0.

Penno定理以及其推论在素矩阵上仍旧成立,事实上正矩阵就是一种特殊的素矩阵 至于佩龙-弗罗贝尼乌斯定理 我们只能给出下面的定理

定理:设 ARn×nA\in\mathbb{R}^{n\times n}为非负矩阵,则有结论:

  • ρ(A)\rho(\boldsymbol{A})A\boldsymbol{A}的特征值,且属于 ρ(A)\rho(\boldsymbol{A})的特征向量可取作非负的,即存在不为零的非负向量 xx,使得 Ax=ρ(A)x(Ax=\rho(A)x(注意,这里 ρ(A)\rho(A)xx 不一定是正的);
  • A\boldsymbol{A}的特征值可分成若干组,每组中的特征值模都相等,而且“均匀”地分布在以原点为圆心的某一圆周上(注意,这里A.A.的所有特征值的模都不超过即小于等于ρ(A)\rho(A) )

随机矩阵

这里介绍另一类非常重要的矩阵——随机矩阵,我们研究其性质以及一些应用的背景

定义:设A=(ai,j)Rn×nA=(a_{i,j})\in\mathbb{R}^{n\times n}是非负矩阵,如果AA的每一行上的元素之和都等于 1,即

j=1naij=1,i=1,2,,n,\sum_{j\:=\:1}^na_{ij}\:=\:1\:,\quad i\:=\:1\:,2\:,\cdots,n\:,

则称AA为随机矩阵;如果AA还满足

i=1naij=1,j=1,2,,n,\sum_{i\:=\:1}^na_{ij}\:=\:1\:,\quad j\:=\:1\:,2\:,\cdots,n\:,

则称 AA 为双随机矩阵.

AA之所以称为随机矩阵,是因为AA的每一行可以看成有nn个点的样本空间上的离散概念分布.这样的矩阵常常出现在城市间的人口流动模型、马尔可夫(Markov)链的研究及经济学和运筹学等领域的各种各样的数学模型问题中.

定理:下面我们简单的讨论一些随机矩阵独有的性质有

  • ARn×nA\in\mathbb{R}^{n\times n}是随机矩阵,则有ρ(A)=1.\rho(A)=1.
  • nn阶非负矩阵A 是随机矩阵的充分必要条件是x=(1,,1)TRnx=(1,\cdots,1)^{\mathrm{T}}\in\mathbb{R}^{n}AA 对应于特征值 1 的特征向量,即Ax=x.Ax=x.
  • 同阶随机矩阵的积还是随机矩阵
  • nn 阶非负矩阵 AA 的谱半径 ρ(A)>0\rho(A)>0,且有 x=(x1,,xn)T>0x=(x_1,\cdots,x_n)^{\mathrm{T}}>0,则矩阵AA 能相似于数 ρ(A)\rho ( A)与某个随机矩阵 PP 的乘积,即 A=D(ρ(A)P)D1A=D(\rho(A)P)D^{-1} 其中 D=diag(x1,,xn).D=\operatorname{diag}(x_1,\cdots,x_n).(D1AD)/ρ(A)(D^-1AD)/\rho(A)是随机矩阵.

定理(随机矩阵幂序列的收敛性):设AA为不可约随机矩阵,则极限limmAm\lim_m\to\infty A^m存在的充分必要条件是 A 为本原矩阵.

双随机矩阵是一类特殊的随机矩阵,因而它具有随机矩阵的所有性质,并且还有如下结果.

定理:设 ARn×nA\in\mathbb{R}^{n\times n}是双随机矩阵,则

  • ρ(A)=1\rho(\boldsymbol{A})=1,且 x=(1,,1)T\boldsymbol x=(1,\cdots,1)^\mathrm{T}A\boldsymbol{A}ATA^\mathrm{T} 对应于特征值 1 的特殊向量;
  • A21.\parallel A\parallel_2\geqslant1.

单调矩阵

本节简要介绍一类矩阵AA,其特点是它的逆矩阵A1A^{-1}是非负的矩阵——单调矩阵,并说明它在求解线性方程组中的应用.

定义:设 ARn×nA\in\mathbb{R}^{n\times n},如果它的逆矩阵 A10\mathbf{A}^-1\geqslant0,则称 A\mathbf{A} 为单调矩阵.

定理(判别):设ARn×nA\in\mathbb{R}^{n\times n},则AA为单调矩阵的充分必要条件是:可从Ax0Ax\geqslant0推出x0x\geqslant0,这里 xx 是列向量.

定理:设AA为单调矩阵,若能找到向量x=(x1,,xn)Tx^\prime=(x_1^{\prime},\cdots,x_n^{\prime})^{\mathrm{T}}x=(x1,,x)Tx^{\prime\prime}=(x^{\prime\prime}_1,\cdots,x^{\prime\prime})^{\mathrm{T}}分别使 Axb,AxbAx^{\prime}\leqslant b,Ax^{\prime\prime}\geqslant b,则有估计式

xxˉxx^{\prime}\leqslant\bar{x}\leqslant x^{\prime\prime}

xix~ixi,i=1,,n.x_i^{\prime}\leqslant\tilde{x}_i\leqslant x_i^{\prime\prime},\quad i=1,\cdots,n.

该定理的意义是可以帮助我们估计得到方程解的上下界

M与H矩阵

定义:设 ARn×nA\in\mathbb{R}^{n\times n},且可表示为

A=sIB,s>0,B0.A=sI-B,\quad s>0,\quad B\geqslant0.

sρ(B),则称As\geqslant\rho(B),则称A为 M 矩阵;若 s>ρ(B),则称A\rho(B),则称A为非奇异 M 矩阵

为了更好的讨论MM型矩阵的性质,我们引入ZZ型矩阵有:

A=(aij)n×nA=(a_{ij})_{n\times n},且

aij0,ij,i,j=1,2,,n,a_{ij}\leqslant0\:,\quad i\neq j\:,i\:,j=1\:,2\:,\cdots,n\:,

则称AAZ{Z}型矩阵,全体 n\textbf{ }nZZ 型矩阵的集合用记号 Zn×nZ^{n\times n}表示.显然,M 矩阵是 Z 型矩阵的特殊情况.

定理:设 AZn×nA\in Z^{n\times n}为非奇异 M 矩阵,且 DZn×nD\in Z^{n\times n}满足 DAD\geqslant A,则

  • A1\boldsymbol{A}^{-1}D1\boldsymbol D^{-1}存在,且 A1D10\boldsymbol{A}^- 1\geqslant \boldsymbol{D}^{- 1}\geqslant 0 ;
  • DD的每个实特征值为正数;
  • detDdetA>0.det D\geqslant\det A>0.

定理:非奇异MM型矩阵有许多等价条件 AZn×nA\in Z^{n\times n} 下面命题等价

  • A 为非奇异 M 矩阵\text{A 为非奇异 M 矩阵}
  • 若 BZn×n且 BA,则 B 非奇异\text{若 }B\in Z^{n\times n}\text{且 }B\geqslant A,\text{则 }B\text{ 非奇异}
  • A 的任意主子矩阵的每一个实特征值为正数A\text{ 的任意主子矩阵的每一个实特征值为正数}
  • A 的所有主子式为正数\text{A 的所有主子式为正数}
  • 对每个 k(1kn),A 的所有 k 阶主子式之和为正数\text{对每个 }k(1\leqslant k\leqslant n),A\text{ 的所有 }k\text{ 阶主子式之和为正数}
  • A 的每一个实特征值为正数\text{A 的每一个实特征值为正数}
  • 存在 A 的一种分裂 A=PQ,使得 P10,Q0 且 ρ(P1Q)<1\text{存在 }A\text{ 的一种分裂 }A=P-Q,\text{使得 }P^{-1}\geqslant0,Q\geqslant0\text{ 且 }\rho(P^{-1}Q)<1
  • A 非奇异,且 A10.A\text{ 非奇异,且 }A^{-1}\geqslant0.

定理 :设AZn×nA\in Z^{n\times n}是对称的,则AA为非奇异 M 矩阵的充分必要条件是AA为正定矩阵

定理:设A,BRn×nA,B\in\mathbb{R}^{n\times n}是非奇异 M 矩阵,则ABAB为非奇异 M 矩阵的充分必要条件是ABZn×n.AB\in Z^n\times n.


下面我们来讨论一些MM矩阵的问题

定理:设 AZn×nA\in Z^{n\times n} 下面命题等价

  • AM矩阵A是M矩阵
  • 对每个ε>0,A+εI是非奇异M矩阵对每个\varepsilon>0,A+\varepsilon I是非奇异M矩阵
  • A 的任意主子矩阵的每个实特征值非负\text{A 的任意主子矩阵的每个实特征值非负}
  • A的所有主子式非负\text{A的所有主子式非负}
  • 对每个 k=1,2,,n,A 的所有 k 阶主子式之和为非负实数\text{对每个 }k=1,2,\cdotp\cdotp\cdotp,n,A\text{ 的所有 }k\text{ 阶主子式之和为非负实数}
  • A 的每个实特征值非负\text{A 的每个实特征值非负}

定理:设AA是不可约的奇异MM矩阵 则

  • rankA=n1\mathrm{rank}A=n-1
  • 存在正向量x>0,使得Ax=0存在正向量x>0,使得Ax=0
  • A 的所有真主子矩阵为非奇异的 M 矩阵,特别有 an>0(1in)A\text{ 的所有真主子矩阵为非奇异的 M 矩阵},\text{特别有 }a_n>0\mathrm{(1}\leqslant i\leqslant n)
  • 对任意 xRn,若 Ax0,则 Ax=0\text{对任意 }x\in\mathbb{R}^n,\text{若 }Ax\geqslant0,\text{则 }Ax=0

下面将nn阶方阵AA推广到复矩阵,且利用AA中的元素取模构造出一个新的比较矩阵,记为 H(A){H}(\boldsymbol{A}),如果 H(AH(\boldsymbol{A})是非奇异的 MM 矩阵,则定义 A\boldsymbol{A}HH 矩阵.

定义:设 A=(aij)Cn×nA=(a_{ij})\in\mathbb{C}^{n\times n},并设

H(A)=(mij)Rn×n,\mathrm{H}(\mathbf{A})=(m_{ij})\in\mathbb{R}^{n\times n},

其中

mij={aij,j=i,aij,ji,i,j=1,,n,m_{ij}=\begin{cases}\quad\mid a_{ij}\mid,\quad j=i,\\-\mid a_{ij}\mid,\quad j\neq i,\end{cases}i,j=1,\cdotp\cdotp\cdotp,n, H(A)H(A)称为 AA 的比较矩阵.

定义:设ACn×nA\in\mathbb{C}^{n\times n},如果AA的比较矩阵H(A)H(A)是非奇异的 M 矩阵,则称AA为非奇异 HH 矩阵,简称 HH 矩阵

下面简要给出 HH 矩阵的一些性质.

定理:设 A,BCn×n,AA,\boldsymbol{B}\in\mathbb{C}^{n\times n},A 是非奇异 MM 矩阵,H(B)AH(B)\geqslant\mathcal{A},则

  • BBHH 矩阵;
  • BB是非奇异的,且A1B10;A^-1\geqslant|B^{-1}|\geqslant0;
  • detBdetA>0\mid\det B\mid\geqslant det A>0

定理:设 ACn×nA\in C^{n\times n} 则有下面性质

  • H(A)Zn×n\mathcal{H}(A)\in\mathbb{Z}^{n\times n}
  • H(A)=A 的充分必要条件是 AZn×n\mathcal{H}(A)=A\text{ 的充分必要条件是 }A\in\mathbb{Z}^{n\times n}
  • A 为 M 矩阵的充分必要条件是 H(A)=A,且 A 为 H 矩阵A\text{ 为 M 矩阵的充分必要条件是 H}(A)=A,\text{且 A 为 H 矩阵}
  • H(A)可表示为非负对角矩阵与具有零对角的非负矩阵之差:H(A)=diag(a11,,ann)[Adiag(a11,,ann)]H( \boldsymbol A) = \mid diag(a_{11},\cdots,a_{nn})\mid-[\mid\boldsymbol{A}\mid-\mid diag(a_{11},\cdots,a_{nn})\mid]这里X[xij]|\boldsymbol{X}|\equiv[|x_{ij}|]表示矩阵X=(xij)Cn×n\boldsymbol{X}=(x_ij)\in\mathbb{C}^{n\times n}的逐个元素取绝对值后的矩阵;
  • 如果AA是M矩阵,那么前式改写为A=diag(a11,,ann)[diag(a11,,ann)A]\mathbf{A}=\operatorname{diag}(a_{11},\cdotp\cdotp\cdotp,a_{nn})-\begin{bmatrix}\operatorname{diag}(a_{11},\cdotp\cdotp\cdotp,a_{nn})-\mathbf{A}\end{bmatrix}

T矩阵与汉克尔矩阵

我们在很多领域会经常遇到下面类型的矩阵

A=[a0a1a2an+1a1a0a1an+2a2a1a0an+3an2an3an4a1an1an2an3a0]\mathbf{A}=\begin{bmatrix}a_0&a_{-1}&a_{-2}&\cdots&a_{-n+1}\\\\a_1&a_0&a_{-1}&\cdots&a_{-n+2}\\\\a_2&a_1&a_0&\cdots&a_{-n+3}\\\vdots&\vdots&\vdots&&\vdots\\\\a_{n-2}&a_{n-3}&a_{n-4}&\cdots&a_{-1}\\\\a_{n-1}&a_{n-2}&a_{n-3}&\cdots&a_0\end{bmatrix}

任意一条平行于主对角线的直线的元素完全相同,我们将这样的矩阵称为T矩阵

T矩阵的性质不好研究,因此人们的重心逐渐转向下面形式的矩阵

Hn+1=[a0a1a2ana1a2a3an+1a2a3a4an+2anan+1an+2a2n]\boldsymbol{H}_{n+1}=\begin{bmatrix}a_0&a_1&a_2&\cdots&a_n\\\\a_1&a_2&a_3&\cdots&a_{n+1}\\\\a_2&a_3&a_4&\cdots&a_{n+2}\\\vdots&\vdots&\vdots&&\vdots\\\\a_n&a_{n+1}&a_{n+2}&\cdots&a_{2n}\end{bmatrix}

任意一条平行于副对角线的直线的元素完全相同,我们将这样的矩阵称为汉克尔矩阵,他是一个非奇异矩阵

可以直接验证,T 矩阵与汉克尔矩阵是可以互相转化的.事实上,设 T 矩阵为 AA,汉克尔矩阵为Hn+1H_{n+1},则用矩阵

J=[111]\boldsymbol{J}=\begin{bmatrix}&&&1\\&1&&\\1&&&\end{bmatrix}

乘矩阵 Hn+1H_{n+1},其结果 JHn+1JH_{n+1}Hn+1JH_{n+1}J 都是 T 矩阵,且有

(JHn+1)T=Hn+1J.(JH_{n+1})^\mathrm{T}=H_{n+1}J.

反之,用JJ乘 T 矩阵AA,则JAJAAJAJ都是汉克尔矩阵.

特殊积

矩阵的特殊积,还是研究矩阵 ABAB 但是此时不再要求 AA 的列数等于 BB 的行数。这种不受矩阵行列约束的特殊积,在很多地方有着简洁的效果

克罗内克积

前面定义过两个矩阵AABB的乘积ABAB ,它要求AA的列数必须等于BB的行数.下面引进一种新的乘法运算,它对矩阵的行数和列数没有任何要求.

定义:设 A=(aij)Cm×n,B=(bij)Cp×qA=(a_{ij})\in\mathbb{C}^{m\times n},\boldsymbol{B}=(b_{ij})\in\mathbb{C}^{p\times q},则称如下的分块矩阵

AB=a11Ba12Ba1nBa21Ba22Ba2nBam1Bam2BamnBCmp×nqA\otimes B=\begin{vmatrix}a_{11}B&a_{12}B&\cdots&a_{1n}B\\a_{21}B&a_{22}B&\cdots&a_{2n}B\\\vdots&\vdots&&\vdots\\a_{m1}B&a_{m2}B&\cdots&a_{mn}B\end{vmatrix}\in\mathbb{C}^{mp\times nq}

AA的克罗内克( Kronecker)积,或称AABB 的直积 ,或张量积,简记为AB=(aijB)mp×nq.A\otimes\boldsymbol{B}=(a_{ij}\boldsymbol{B})_{mp\times nq}.ABA\otimes B是一个m×nm\times n块的分块矩阵,最后是一个mp×nqmp\times nq矩阵.

明显的,克罗内克积不满足交换律,不过最后结果的阶数是相同的

容易验证,克罗内克积有下面的运算率

  • k(AB)=kAB=AkB,kCk(A\otimes B)=kA\otimes B=A\otimes kB,k\in\mathbb{C}
  • (A+B)C=AC+BC(A+B)\otimes C=A\otimes C+B\otimes C
  • (AB)C=A(BC)(A\otimes B)\otimes C=A\otimes(B\otimes C)

定理:设 A=(aij)m×n,B=(bij)s×r,C=(cij)n×p,D=(dij)r×lA=(a_{ij})_{m\times n},\boldsymbol{B}=(b_{ij})_{s\times r},\boldsymbol{C}=(c_{ij})_{n\times p},\boldsymbol{D}=(d_{ij})_{r\times l},则

(AB)(CD)=ACBD.(A\otimes B)(C\otimes D)=AC\otimes BD.

推论:设 A=(aij)m×n,B=(bij)s×rA=(a_{ij})_{m\times n},\boldsymbol{B}=(b_{ij})_{s\times r},则

AB=(AIn)(ImB)=(ImB)(AIn)A\otimes B=(A\otimes I_n)(I_m\otimes B)=(I_m\otimes B)(A\otimes I_n)

定理:设 A=(aij)m×nA=(a_{ij})_m\times n,则 rank(A)1Arank(\boldsymbol{A})\leqslant1\Leftrightarrow\boldsymbol{A} 可以表示成一个行向量和一个列向量的克罗内克积.

定理:设 A=(aij)m×n,B=(bij)p×q\boldsymbol{A}=(a_{ij})_{m\times n},\boldsymbol{B}=(b_{ij})_{p\times q},则

(AB)T=ATBT,(AB)H=AHBH.\begin{aligned}(A\otimes B)^\mathrm{T}&=A^\mathrm{T}\otimes B^\mathrm{T}\:,\\(A\otimes B)^\mathrm{H}&=A^\mathrm{H}\otimes B^\mathrm{H}.\end{aligned}

据此容易推出,对称矩阵(埃尔米特矩阵)的克罗内克积还是对称矩阵(埃尔米特矩阵)

定理:设A,BA,B分别为mm阶和nn阶可逆矩阵,则ABA\otimes B也为可逆矩阵.且

(AB)1=A1B1.(A\otimes B)^{-1}=A^{-1}\otimes B^{-1}.

定理:设 A=(aij)m×n,B=(bij)p×q\boldsymbol{A}=(a_{ij})_{m\times n},\boldsymbol{B}=(b_{ij})_{p\times q},则

rank(AB)=rank(A)rank(B).\operatorname{rank}(\boldsymbol{A}\otimes\boldsymbol{B})=\operatorname{rank}(\boldsymbol{A})\operatorname{rank}(\boldsymbol{B}). tr(AB)=trAtrB\mathrm{tr}(A\otimes B)=\mathrm{tr}A\mathrm{tr}B

定理:设x1,x2,,xnx_1,x_2,\cdots,x_nnn个线性无关的mm维列向量,y1,y2,,yq,y_1,y_2,\cdots,y_qqq个线性无关的pp维列向量,则nqnqmpm p 维列向量xiyj(i=1,,n;j=1,,q)\mathbf{x}_i\otimes\mathbf{y}_j(i=1,\cdotp,n;j=1,\cdotp\cdotp,q)亦线性无关,反之亦然

定理:设A,BA,B分别为m,pm,p阶方阵,则有

AB=ApBm.|A\otimes B|=\begin{array}{c|cc}|A|^p&|B|^m.\end{array}

定理:设 A=(aij)m×p,B=(bij)p×nA=(a_{ij})_{m\times p},\boldsymbol{B}=(b_{ij})_{p\times n},则有

(AB)[k]=A[k]B[k](AB)^{[k]}=A^{[k]}B^{[k]}

定理:设 λ1,λ2,,λm\lambda_1,\lambda_2,\cdots,\lambda_mAm×mA_m\times mmm 个特征值 ,μ1,μ2,,μp,\mu_1,\mu_2,\cdots,\mu_pBp×pB_{p\times p}pp 个特征值,那么ABA\otimes Bmpm p 个特征值为λiμj(i=1,2,,m;j=1,2,,p).\lambda_i\mu_j(i=1,2,\cdotp\cdotp\cdotp,m;j=1,2,\cdotp\cdotp\cdotp,p).

定理:设AAmm阶矩阵,B 为nn阶矩阵,则有ABA\otimes B相似于BAB\otimes A

定理:设f(x,y)=i,j=0raijxiyjf(x,y)=\sum_{i,j=0}^{r}a_{ij}x^{i}y^{j}是变量x,yx,y的复系数多项式,对于ACm×mA\in\mathbb{C}^m\times m, BCn×nB\in\mathbb{C}^{n\times n}定义mnmn阶矩阵:

f(A,B)=i,j=0pαijAiBj.f(A,B)=\sum_{i,j=0}^p\alpha_{ij}A^i\otimes B^j.

如果AABB的特征值分别是λ1,...,λm\lambda_1,...,\lambda_mμ1,...,μn\mu_1,...,\mu_n,它们对应的特征向量分别是x1,,xmx_{1},\cdots,x_{m}y1,,yny_1,\cdots,y_n,则矩阵 f(A,B)f(A,B)的特征值是 f(λr,μs)f(\lambda_r,\mu_s),而对应 f(λr,μs)f(\lambda_r,\mu_s)的特征向量为xrys(r=1,...,m;x_r\otimes y_s( r= 1, . . . , m; s=1,...,n).s= 1, . . . , n) .

基于本定理,我们容易给出下面推论

推论1:我们取f(x,y)=xyf(x,y)=xy AB\boldsymbol{A}\otimes\boldsymbol{B} 的特征值是 mnmn 个数 λrμs\lambda_r\mu_s 对应的特征向量为 xrysx_r\otimes y_s

推论2:取f(x,y)=x+yf(x,y)=x+y 也就是 f(x,y)=xy0+x0yf(x,y)=xy^0+x^0y 则有 AIn+ImBA\otimes I_n+I_m\otimes B的特征值为λr+μs\lambda_r+\mu_s 特征向量 xrysx_r\otimes y_s

我们称矩阵

AIn+ImBA\otimes I_n+I_m\otimes B

AABB的克罗内克和

最后,我们介绍一类特殊的矩阵

定义:元素为 1 或-1 的方阵 HRn×mH\in\mathbb{R}^{n\times m},若有

HHT=nIn,HH^\mathrm{T}=nI_n,

则称HHnn阶阿达马(Hadamard)矩阵.

定理:设HmH_mHnH_n 均为阿达马矩阵,则矩阵 HmHnH_m\otimes H_nmnmn 阶的阿达马(Hadamard)矩阵.

阿达马积

阿达马乘法远比通常矩阵乘法简单,但未被广泛地了解.它出现在很多问题中,因此我们在此处讨论他。

定义:设A=(aij),B=(bij)Cm×n.A=(a_{ij}),{B}=(b_{ij})\in\mathbb{C}^{m\times n}.ABA^\circ B表示AA和 B 的对应元素相乘而得到的m×nm\times n矩阵:

AB=[a11b11a12b12a1nb1na21b21a22b22a2nb2nam1bm1am2bm2amnbmn],A\circ B=\begin{bmatrix}a_{11}b_{11}&a_{12}b_{12}&\cdots&a_{1n}b_{1n}\\a_{21}b_{21}&a_{22}b_{22}&\cdots&a_{2n}b_{2n}\\\vdots&\vdots&&\vdots\\a_{m1}b_{m1}&a_{m2}b_{m2}&\cdots&a_{mn}b_{mn}\end{bmatrix},

称为 A 和 B 的阿达马积 ,也称为舒尔积。

明显的,阿达马积需要两个矩阵同型,并且他是可交换的 AB=BAA\circ B =B\circ A

定理:设 A,B,CCm×n.A,{B},C\in\mathbb{C}^{m\times n}. 关于阿达马积的运算有下面的性质

  • A(B+C)=AB+ACA\circ(B+C)=A\circ B+A\circ C
  • A(BC)=(AB)CA\circ(B\circ C)=(A\circ B)\circ C
  • (AB)T=ATBT(A\circ B)^\mathrm{T}=A^\mathrm{T}\circ B^\mathrm{T}
  • (AB)H=AHBH(A\circ B)^{\mathrm{H}}=A^{\mathrm{H}}\circ B^{\mathrm{H}}
  • 如果 A 和 B 是自伴矩阵(即埃尔米特矩阵),那么 AB 也是自伴矩阵\text{如果 }A\text{ 和 }B\text{ 是自伴矩阵(即埃尔米特矩阵)},\text{那么 }A\circ B\text{ 也是自伴矩阵}
  • 如果 A 和 B 是斜自伴(即反埃尔米特)矩阵,那么 AB 是自伴矩阵\text{如果 }A\text{ 和 }B\text{ 是斜自伴(即反埃尔米特)矩阵},\text{那么 }A\circ B\text{ 是自伴矩阵}
  • 如果 A 是自伴矩阵 ,B 是斜自伴矩阵 ,那么 AB 是斜自伴矩阵\text{如果 }A\text{ 是自伴矩阵 },B\text{ 是斜自伴矩阵 },\text{那么 }A\circ B\text{ 是斜自伴矩阵}
  • rank(AB)(rankA)(rankB)\mathrm{rank}(A\circ B)\leqslant(\mathrm{rank}A)(\mathrm{rank}B)
  • 若 A,B 是半正定矩阵,则 AB 也是半正定矩阵\text{若 }A,B\text{ 是半正定矩阵},\text{则 }A\circ B\text{ 也是半正定矩阵}
  • 若 B 是正定矩阵 ,A 是半正定矩阵且无零对角元素 ,则 AB 是正定矩阵\text{若 }B\text{ 是正定矩阵 },A\text{ 是半正定矩阵且无零对角元素 },\text{则 }A\circ B\text{ 是正定矩阵}
  • AB都是正定矩阵,AB也是正定矩阵若A和B都是正定矩阵,则A\circ B也是正定矩阵

定理:设 A,BCn×nA,B\in\mathbb{C}^{n\times n}是半正定矩阵,则成立

λmin(AB)λmin(A)λmin(B)\lambda_{\min}(A\circ B)\geqslant\lambda_{\min}(A)\lambda_{\min}(B)

λmax(AB)λmax(A)λmax(B),\lambda_{\max}(A\circ B)\leqslant\lambda_{\max}(A)\lambda_{\max}(B)\:,

其中 λmin(A)\lambda_{\min}(\boldsymbol{A})λmax(A)\lambda_{\max}(\boldsymbol{A})分别表示 A\boldsymbol{A} 的最小特征值和最大特征值。

定理:设 A,BCn×nA,B\in\mathbb{C}^{n\times n}是半正定矩阵,则成立

λmin(AB)λmin(ABT)\lambda_{\min}(A\circ B)\geqslant\lambda_{\min}(AB^{\mathrm{T}}) λmin(AB)λmin(AB).\lambda_{\min}(A\circ B)\geqslant\lambda_{\min}(AB).

反积

定义:设 A=(aij),B=(bij)Cm×n.\boldsymbol{A}=(a_{ij}),\boldsymbol{B}=(b_{ij})\in\mathbb{C}^{m\times n}.

cij={aiibii,j=i,aijbij,ji,i=1,,m,j=1,,n.c_{ij}=\begin{cases}\quad a_{ii}b_{ii}\:,\quad&j=i\:,\\[2ex]-a_{ij}b_{ij}\:,\quad&j\neq i\:,\quad&i=1\:,\cdots,m\:,\quad j=1\:,\cdots,n.\end{cases}

AB=(cij)Cm×nA\star B=(c_{ij})\in\mathbb{C}^{m\times n},并称其为AABB的反积(Fan 积).

容易看出 :反积是阿达马积的一种变异.

定理:关于反积以及非负矩阵的阿达马积有如下的基本性质.

  • A,BRn×nA,B\in\mathbb{R}^{n\times n}是 M 矩阵,则ABA\star B也是 M 矩阵;
  • A,BCn×nA,\boldsymbol{B}\in\mathbb{C}^{n\times n}是 H 矩阵,则 ABA\star\boldsymbol{B} 也是 H 矩阵,ABA\circ\boldsymbol{B} 是非奇异的.

定理:设A,BRn×n,A0,B0,A,B\in\mathbb{R}^{n\times n},A\geqslant0,B\geqslant0,则

  • AB0A^{\circ}B\geqslant0,也就是说,非负矩阵类在阿达马积下是封闭的;
  • ρ(AB)ρ(A)β(B).\rho ( A^{\circ }B) \leqslant \rho ( A) \beta ( B) .

定理:设 A,BRn×nA,\boldsymbol{B}\in\mathbb{R}^{n\times n}是 M 矩阵,则 AB1A\circ\boldsymbol{B}^{-1}也是 M 矩阵.

克罗内克积的应用

利用矩阵克罗内克积的性质,我们可以容易的研究线性矩阵方程

A1XB1+A2XB2++ApXBp=CA_1XB_1+A_2XB_2+\cdots+A_pXB_p=C

事实上,他可以转换为一般线性方程

Gx=cGx=c

这就是本节希望讨论的问题

矩阵的拉直

定义:设A=(aij)m×n\boldsymbol{A}=(a_{ij})_{m\times n},将A\boldsymbol{A}各行依次按列纵排得到的mnmn维列向量,这种运算称为AA的拉直,记为A\vec{A},即

A=(a11,a12,,a1n,a21,a22,,a2n,,am1,am2,,amn)T.\vec{A}=(a_{11},a_{12},\cdotp\cdotp\cdotp,a_{1n},a_{21},a_{22},\cdotp\cdotp\cdotp,a_{2n},\cdotp\cdotp\cdotp,a_{m1},a_{m2},\cdotp\cdotp\cdotp,a_{mn})^\mathrm{T}.

容易知道,拉直算子是线性的 * A+B=A+B,kA=kA\overrightarrow{A+B}=\vec{A}+\vec{B},\quad\vec{kA}=k\vec{A}

定理:关于拉直算子,我们可以给出下面的连续推证

  1. xyT=xy,其中 x,y 为 n 维列向量xy^\mathrm{T}=x\otimes y,\text{其中 }x,y\text{ 为 }n\text{ 维列向量}
  2. Eij=eiejT\boldsymbol{E}_{ij}=\boldsymbol{e}_i\boldsymbol{e}_j^\mathrm{T},其中Eij\boldsymbol E_{ij}表示(i,j)i,j)元素为 l,其余元素为 0 的 m×nm\times n 阶矩阵,ei\boldsymbol e_i 表示第 ii 个元素为 1,其余元素为 0 的列向量;
  3. Aei=[a1ia2iami]Ae_i=\begin{bmatrix}a_{1i}\\\\a_{2i}\\\vdots\\\\a_{mi}\end{bmatrix}
  4. ejTA=(aj1,aj2,,ajn)e_j^\mathrm{T}A=(a_{j1},a_{j2},\cdots,a_{jn})
  5. Eij=eiej\vec{E}_{ij}=e_i\otimes e_j

定理:设 A=(μij)m×n,B=(bij)n×p,C=(cij)p×qA=(\mu_{ij})_{m\times n},\boldsymbol{B}=(b_{ij})_{n\times p},\boldsymbol{C}=(c_{ij})_{p\times q},则

ABC=(ACT)B.\overrightarrow{ABC}=(A\otimes C^{\mathrm{T}})\vec{B}.

推论:设 A=(μij)m×n,B=(bij)n×p,X=(xij)p×qA=(\mu_{ij})_{m\times n},\boldsymbol{B}=(b_{ij})_{n\times p},\boldsymbol{X}=(x_{ij})_{p\times q},则

  • AX=(AIn)X\overrightarrow{AX}=(A\otimes I_{n})\vec{X}
  • XB=(ImBT)X\overrightarrow{XB}=(I_m\otimes B^\mathrm{T})\vec{X}
  • AX+XB=(AIn+ImBT)X.\overrightarrow{AX+XB}=(A\otimes I_n+I_m\otimes B^\mathrm{T})\vec{X}.

线性矩阵方程的解

定理:矩阵XCm×nX\in\mathbb{C}^{m\times n}是矩阵方程A1XB1+A2XB2++ApXBp=CA_1XB_1+A_2XB_2+\cdots+A_pXB_p=C的解的充分必要条件是x=Xx=\vec{X}为通常的线性方程组

Gx=cGx=c

的解,其中G=i=1pAiBiT,c=C.G=\sum_{i=1}^pA_i\otimes B_i^\mathrm{T},c=\vec{C}.


下面我们来讨论一个特殊情况,研究方程

AX+XB=CAX+XB=C

定理:前述矩阵方程有惟一解XCm×nX\in\mathbb{C}^{m\times n}的充要条件是AAB-B 没有相同的特征值,即

λi+μj0,i=1,,m,j=1,,n.\lambda_i+\mu_j\neq0,\quad i=1,\cdotp\cdotp\cdotp,m,\quad j=1,\cdotp\cdotp\cdotp,n.

研究方程

X+AXB=CX+AXB=C

定理:前述矩阵方程有惟一解 xCm×nx\in\mathbb{C}^{m\times n}的充要条件是λiμj1(i=1,\lambda_i\mu_j\neq-1(i=1,\cdots,

m;j=1,,nm;j=1,\cdots,n),λi,\lambda_iμj\mu_j 分别为AABB 的特征值.
  • Title: Matrix Analysis: Generalized Inverses, Special Matrices, and Matrix Products
  • Author: Hyacehila
  • Created at : 2024-12-14 16:42:23
  • Link: https://hyacehila.github.io//blog/2024/12/15/matrix-analysis-notes/
  • License: This work is licensed under CC BY-NC-SA 4.0.
Comments