統計学に習熟するには線形代数の習得が不可欠である。が、初等的な線形代数ではカバーしきれないような分野も存在する。そこで以下の参考書
を基により高等な線形代数を学ぶ。
4. 行列の因数分解と行列ノルム
4.6 Schur分解
分解はまた、ある行列における零でない固有値の数がその行列の階数の下限を与えることを成立させる方法を提供する。
( をUnitary行列、を上三角行列とし、が成立するものとする。の固有値はの対角成分であるから、は厳密に個の非零対角成分を持たねばならない。の対角成分が列と行を除外することで形成したの部分行列は対角成分が非零であるような上三角行列になり、これは正則である。なぜならば三角行列の行列式がその対角成分の積で表されるため、非零であるからである。したがってでなければならない。しかしはUnitary行列であるから、正則行列であり、
が成立する。 )
4.7 2つの対称行列の同時対角化
( をが正定値であるようなの一次結合だとする。ならばは正定値でないから、一般性を失うことなくと仮定する。このときと書ける。は正定値であるから、もしくはこれと同等のであるような正則行列が存在する。例:正準変量分析
番目の標本をを個の異なるグループから独立に得た標本を扱う。このとき想定するモデルはである。ここでで各成分は定数だとし、である。
正準変量分析は帰無仮説を検定すべく
を考えて、が棄却された場合に実施する。
がの次元部分空間を張るならば、
として母集団においてに相当する
は階数がである。
正の固有値に対応したの固有ベクトルは次元部分空間を張る。の場合には、距離が適切に機能しないため、平均ベクトル間の差異を解釈するのは難しくなる。そこでとすればであるから、を分析すればよい。したがって個の正の固有値に対応したの固有ベクトルにより張られる部分空間へのの射影を考えればよい。すなわちのスペクトル分解がと表現できる場合、内にベクトルを描画すればよい(ここではを満たす行列で、は次対角行列である。)。この次元空間におけるベクトルの個の成分は番目の母集団に対する正準変数平均と呼ぶ。ここで正準変数を得る際にの同時対角化が用いられている。実際、が
を満たすならば、とできる。もしが未知であれば、正準変数平均は標本平均と対応するの同時対角化を用いて計算される標本正準変数平均から推定する。
さらには対称であるから、が対角行列であるような正規直交行列が存在する。したがってと定義すれば、
が成立する。すなわちはにより対角化され、
であるから、もまた対角化される。 )