极小广义方差法（协方差法）

协方差

协方差表示的是两个变量的总体的误差，这与只表示一个变量误差的方差不同。
如果两个变量的变化趋势一致，也就是说如果其中一个大于自身的期望值，另外一个也大于自身的期望值，那么两个变量之间的协方差就是正值。如果两个变量的变化趋势相反，即其中一个大于自身的期望值，另外一个却小于自身的期望值，那么两个变量之间的协方差就是负值

行列式

• 样本协方差矩阵 的 行列式 体现 各个指标的相关性

极大不相关法

把每个向量写成一列，进行初等行变换，化为阶梯形矩阵，如果非零行的行数等于向量的个数，则向量组线性无关，如果
小于向量组的个数，则线性相关
哎呀，什么高斯消元法呀，行列式呀，行秩列秩呀，极大无关组呀，现在只想用意念把《线性代数》扫描一遍

秩

矩阵的秩 $=min$ { 行秩，列秩 }

定义：行/列 秩= 相互线性无关（线性独立）的 行/列 向量的最大数
可替换定义：用行列式定义，设 A 为 m*n 矩阵，若 A 至少有一个 r 阶非零子式，而其所有 r+1 阶子式全为零，则称 r 为 A 的秩
通过秩的计算方法反向理解秩的定义

1、第一种方法是最原始的，利用矩阵的秩的定义，即矩阵所有不等于0的子式中，阶数最大者的阶数，就是矩阵的秩。
2、第二种方法将利用标准形矩阵来确定矩阵的秩。

• 第一种方法就要列出这个矩阵的所有三阶子式，结果发现它们都等于0，因此3不是它的秩；然后只要列出一个二阶子式，求得这个二阶子式的结果不等于0，就可以确定它的秩是2了。
• 而第二种方法则必须利用初等变换，原则上要化为除了对角线上的元素可以包含1和0，其它元素都是0的形式。但如果仅要求出矩阵的秩，我们可以把它化为上三角矩阵或下三角矩阵就可以了。

一般都用法二，利用矩阵的初等变换生成一个行阶梯形矩阵（行阶梯形就是任一行从左数第一个非零数的列序数都比上一行的大），直接数 非零横行
化为阶梯形矩阵，阶梯形的非零行数即为矩阵的秩（初等变换不改变矩阵的秩）
法一，通过矩阵的行列式，由于行列式的概念仅仅适用于方阵的概念。通过行列式是否为0则可以大致判断出矩阵是否是满秩。
秩的性质在这里就不那么重要了