• 矩阵分析与应用


    先讨论两个矩阵之间的特殊求和

    矩阵的直和

    定义:m*m矩阵A与n*n矩阵B的直和记作A\oplus B,它是一个(m+n)*(m+n)的矩阵,定义为:


    A\oplus B=\begin{bmatrix} A & O_{m \times n}\\ O_{n \times m} & B \end{bmatrix}

    两个矩阵的直和不是两个矩阵元素之间的任何求和运算,只是一种形式上的求和符号,其真实含义是将两个矩阵按照对角线位置堆放,直接组合成一个更大维数的矩阵。

    类似的,还可以定义多个矩阵的直和,如:

    B=\bigoplus _{i=0}^{N-1}A_{i}=A_{0}\oplus A_{1}\oplus.. .\oplus A_{N-1}=\begin{bmatrix} A_{0} & & & \\ & A_{1}& & \\ & & .. .& \\ & & & A_{N-1} \end{bmatrix}

    矩阵的直和具有以下性质:

    1.若c为常数,则有: c\left ( A\oplus B \right )=cA\oplus cB

    2.若A\neq B,则:A\oplus B\neq B\oplus A

    3.矩阵的直和的复共轭,转置,复共轭转置与逆矩阵:

    (A\oplus B)^{*}=A^{*}\oplus B^{*}

    (A\oplus B)^{T}=A^{T}\oplus B^{T}

    (A\oplus B)^{H}=A^{H}\oplus B^{H}

    (A\oplus B)^{-1}=A^{-1}\oplus B^{-1},A,B可逆。

    4.若A,B为m*m矩阵,且C,D为n*n矩阵,则:

    \left ( A\pm B \right )\oplus \left ( C\pm D \right )=\left ( A\oplus C \right )\pm \left ( B\oplus D \right )

    \left ( A\oplus C \right )\left ( B\oplus D \right )=AB\oplus CD

    5.若A,B,C分别是m*m,n*n,p*p矩阵,则:

    A\oplus \left (B\oplus C \right )=\left (A\oplus B \right )\oplus C=A\oplus B\oplus C

    6.矩阵直和的迹,秩,行列式:

    tr\left ( \bigoplus _{i=0}^{N-1}A_{i} \right )=\sum_{i=0}^{N-1}tr(A_{i})

    rank\left ( \bigoplus _{i=0}^{N-1}A_{i} \right )=\sum_{i=0}^{N-1}rank(A_{i})

    det\left ( \bigoplus _{i=0}^{N-1}A_{i} \right )=\prod_{i=0}^{N-1}det(A_{i})

    7.若A,B分别是m*m,n*n正交矩阵,则A\oplus B是(m+n)*(m+n)的正交矩阵。

    Hadamard积

    现在考虑两个矩阵之间的直接乘积。

    定义:m*n矩阵A=[a_{ij}]与m*n矩阵B=[b_{ij}]的Hadamard积记作A\odot B,它仍然是一个m*n矩阵,定义为:

    A\odot B=[a_{ij}b_{ij}]

    Hadamard积也称Schur积或者对应元素乘积。矩阵Hadamard积的一个主要定理是下面的Hadamard积定理。

    定理:若m*m矩阵A,B是正定的或半正定的,则它们的Hadamard积A\odot B也是正定的或半正定的。

    推论:令A是一个m*m矩阵,当且仅当

    \sum_{i=1}^{m}\sum_{j=1}^{m}a_{ij}b_{ij}\geqslant 0

    A是半正定矩阵,对所有m*m的半正定矩阵B成立。

    下面的两个定理描述了矩阵Hadamard积与迹之间的关系。

    定理:令A,B,C为m*n矩阵,并且l=[1,1,.. .,1]^{T}为n*1求和向量,D=diag[d_{1},d_{2},.. .,d_{m}]d_{i}=\sum_{j=1}^{n}a_{ij},则:

    tr(A^{T}(B\odot C))=tr\left ( (A^{T}\odot B^{T})C \right )

    l^{T}A^{T}(B\odot C)l=tr(B^{T}DC)

    定理:令A,B为n*n的正方矩阵并且l=[1,1,.. .,1]^{T}为n*1求和向量,假定M是一个n*n对角矩阵M=diag(\mu _{1},\mu _{2},.. .,\mu _{n}),而m=Ml为n*1向量,则有:

    tr(AMB^{T}M)=m^{T}(A\odot B)m

    tr\left ( AB^{T} \right )=l^{T}(A\odot B)l

    MA\odot B^{T}M=M(A\odot B^{T})M

    Hadamard积的性质如下:

    1.若A,B均为m*n矩阵,则:


    A\odot B=B\odot A

    \left ( A\odot B \right )^{T}=A^{T}\odot B^{T}

    \left ( A\odot B \right )^{H}=A^{H}\odot B^{H}

    \left ( A\odot B \right )^{*}=A^{*}\odot B^{*}

    2.任何一个m*m矩阵A与m*n零矩阵的Hadamard积对于m*n零矩阵,即:

    A\odot O_{m\times n}=O_{m\times n}\odot A=O_{m\times n}

    3.若c为常数,则:

    c\left ( A\odot B \right )=(cA)\odot B=A\odot(cB)

    4.矩阵A_{m\times m}=[a_{ij}]与单位矩阵I_{m}的Hadamard积为m*m对角矩阵,即:

    A\odot I_{m}=I_{m}\odot A=diag(A)=diag(a_{11},a_{22},.. .,a_{mm})

    5.若A,B,C,D均为m*n矩阵,则:

    A\odot \left (B\odot C \right )=\left (A\odot B \right )\odot C=A\odot B\odot C

    \left (A\pm B \right )\odot C=A\odot C \pm B\odot C

    \left (A+B \right ) \odot\left ( C+D \right )=A\odot C+A\odot D+B\odot C+B\odot D

    6.若A,C为m*m矩阵,并且B,D为n*n矩阵,则:

    \left ( A\oplus B \right )\odot \left ( C\oplus D \right )=\left ( A\odot C \right )\oplus\left ( B\odot D \right )

    7.若A,B,C为m*n矩阵,则:

    tr\left ( A^{T}(B\odot C) \right )=tr((A^{T}\odot B^{T})C)

    8.若A,B,D为m*m矩阵,则:

    D为对角矩阵\Rightarrow (DA)\odot (BD)=D(A\odot B)D

    矩阵化函数与向量化函数

    一个mn*1向量a=[a_{1},a_{2},.. .,a_{mn}]^{T}的矩阵化函数unvec_{m,n}是一个将mn个元素的列向量转化为m*n矩阵的算子,即:

    unvec_{m,n}(a)=A_{m\times n}=\begin{bmatrix} a_{1} & a_{m+1}&.. . &a_{m(n-1)+1} \\ a_{2}& a_{m+2}&.. . &a_{m(n-1)+2} \\ .. . & . .. &.. . &.. . \\ a_{m}&a_{2m} &.. . & a_{mn} \end{bmatrix}

    相反,若A=\left [a_{ij} \right ]是一个m*n的矩阵,则A的向量化函数vec(A)是一个mn*1的向量,其元素是A的元素的字典式排序,即:

    vec(A)=\begin{bmatrix} a_{11}\\ .. .\\ a_{1n}\\ .. .\\ a_{mn} \end{bmatrix}

    矩阵元素的字典式排序也称按列堆栈。

  • 相关阅读:
    第三章 Elasticsearch简介
    【深度学习实验】卷积神经网络(三):自定义二维卷积层:步长、填充、输入输出通道
    App Store和Google Play之间的关键区别
    90 数组中的第K个最大元素
    分布式存储系统之Ceph集群CephFS基础使用
    智慧城市大脑数据中台解决方案:PPT全套37页,附下载
    【数据分析-Excel】Day-036 数据分析与Excel
    中国石油大学(北京)-《 油田化学》第二阶段在线作业
    如何确定推荐计划是否会成功?有这几个重要指标
    【深入理解ES6】函数
  • 原文地址:https://blog.csdn.net/weixin_46007132/article/details/126099301