「大人の教養・知識・気付き」を伸ばすブログ

※今月(8月)は一部コンテンツを隔週更新にします(夏休みです…)。 一流の大人(ビジネスマン、政治家、リーダー…)として知っておきたい、教養・社会動向を意外なところから取り上げ学ぶことで“気付く力”を伸ばすブログです。

MENU

統計学のための線形代数(023/X)

 統計学に習熟するには線形代数の習得が不可欠である。が、初等的な線形代数ではカバーしきれないような分野も存在する。そこで以下の参考書

を基により高等な線形代数を学ぶ。

4. 行列の因数分解と行列ノルム

4.5 Jordan分解

 対角行列でなくとも可能な限り対角行列に近いような、Aの相似な行列を見つけるための方法が\mathrm{Jordan}標準形である。



\mathrm{Jordan}標準形 h\gt1に対してh次正方行列J_h(\lambda)が以下の形態



\begin{aligned}
J_h(\lambda)=\lambda I+\displaystyle{\sum_{i=1}^{h-1}\boldsymbol{e}_i\boldsymbol{e}_{i+1}^{\prime}}=\begin{bmatrix}
\lambda&1&0&\cdots&0\\
0&\lambda&1&\cdots&0\\
0&0&\lambda&\cdots&0\\
\vdots&\vdots&\vdots&&\vdots\\
0&0&0&\cdots&\lambda
\end{bmatrix}
\end{aligned}


を取るとき、\mathrm{Jordan}標準形という。


J_{h}(\lambda)は唯一の線形独立な固有ベクトルを持ち、それは\boldsymbol{x}=(x_1,0,\cdots,0)^{\prime}の形を取っている。



\mathrm{Jordan}分解定理 m次正方行列に対して、以下を満たすような正則行列Bが存在する。


\begin{aligned}
B^{-1}AB&=J=\mathrm{diag}(J_{h_1}(\lambda_1),\cdots,J_{h_r}(\lambda_r) )\\
&=\begin{bmatrix}
J_{h_1}(\lambda_1)&0&\cdots&0\\
0&J_{h_2}(\lambda_2)&\cdots&0\\
\vdots&\vdots&&\vdots\\
0&0&\cdots&J_{h_r}(\lambda_r)
\end{bmatrix}
\end{aligned}

ここでh_1+h_"+\cdots+h_r=mで、\lambda_1,\cdots,\lambda_rは互いに相異なるとは限らないA固有値である。


 Jは、もし{}^{\forall}i\in\{1,2,\cdots,r\}に対してh_i=1ならば、\mathrm{Jordan}分解定理によりAは対角化可能である。しかしh_i次正方行列J_{h_i}(\lambda_i)はただ1つの線形独立な固有ベクトルを持つため、\mathrm{Jordan}標準形J=\mathrm{diag}(J_{h_1}(\lambda_1),\cdots,J_{h_r}(\lambda_r) )r個の線形独立な固有ベクトルを持つ。したがって少なくとも1つのiについてh_i\gt1ならばJは対角行列ではない。Jが対角行列である場合に限りAは対角化可能である。

4.6 Schur分解

 任意の正方行列Aのスペクトル分解定理のもう1つの一般化として\mathrm{Schur}分解がある。
 スペクトル分解定理


(再掲)スペクトル分解 A固有値\lambda_1,\cdots,\lambda_mを持つm次対称行列とし、\boldsymbol{x}_1,\cdots,\boldsymbol{x}_mをそれらの固有値に対応する正規直交固有ベクトルの集合だと仮定する。そのとき\Lambda=\mathrm{diag}(\lambda_1,\cdots,\lambda_m), X=(\boldsymbol{x}_1,\cdots,\boldsymbol{x}_m)とすれば、



\begin{aligned}
A=X\Lambda X^{\prime}
\end{aligned}


が成り立つ。


で用いた直交行列に焦点を当てる。直交行列Xに話を限定したとき、X^{\prime}AXとして得られる最も単純な形態はどのようなものか。任意の実正方行列Aについて、X^{*}AXが三角行列であるようなXが見つかることは分かっている。では実ユニタリ行列は直交行列であるようなユニタリ行列に拡張したらどうなるか。それが\mathrm{Schur}分解である。



\mathrm{Schur}分解 m次正方行列Aに対して、


\begin{aligned}
X^{*}AX=T
\end{aligned}

を満たすようなm次ユニタリ行列Xが存在する。ここでTはその対角成分がA固有値であるような上三角行列である。

(\because \lambda_1,\cdots,\lambda_mA固有値とする。また\boldsymbol{y}_1\boldsymbol{y}_1^{*}\boldsymbol{y}_1=1を満たすような\lambda_1に対応するA固有ベクトルとする。さらにYを最初の列に\boldsymbol{y}_1を持つ任意のm次ユニタリ行列だとする。Y=[\boldsymbol{y}_1\ \ Y_2]と表記すれば、A\boldsymbol{y}_1=\lambda_1\boldsymbol{y}_1およびY_2^{*}\boldsymbol{y}_1=\boldsymbol{0}に注意すれば、



\begin{aligned}
Y^{*}AY&=\begin{bmatrix}
\boldsymbol{y}_1^{*}A\boldsymbol{y}_1&\boldsymbol{y}_1^{*}AY_2\\
Y_2^{*}A\boldsymbol{y}_1&Y_2^{*}AY_2
\end{bmatrix}=\begin{bmatrix}
\lambda_1\boldsymbol{y}_1^{*}\boldsymbol{y}_1&\boldsymbol{y}_1^{*}AY_2\\
\lambda_1Y_2^{*}\boldsymbol{y}_1&Y_2^{*}AY_2
\end{bmatrix}\\
&=\begin{bmatrix}
\lambda_1&\boldsymbol{y}_1^{*}AY_2\\
\boldsymbol{0}&B
\end{bmatrix}
\end{aligned}


である。ここでm-1次正方行列B=Y_2^{*}AY_2である。これらからY^{*}AY特性方程式



\begin{aligned}
(\lambda_1-\lambda)|B-\lambda I|=0
\end{aligned}


である。またY^{*}AY固有値A固有値と同じであるから、B固有値\lambda_2,\cdots,\lambda_nでなければならない。もしm=2ならばY^{*}AYは上三角行列になる。またm\gt2ならば帰納法により示すことができる。すなわち(m-1)次正方行列において結果が成り立つと仮定すると、B(m-1)次正方行列であるからW^{*}BW=T_2となるようなユニタリ行列Wが存在すると仮定しても良い。ここでT_2は対角成分が\lambda_2,\cdots,\lambda_mであるような上三角行列である。m次正方行列U



\begin{aligned}
U=\begin{bmatrix}
1&\boldsymbol{0}^{\prime}\\
\boldsymbol{0}&W
\end{bmatrix}
\end{aligned}


と定義する。Wはユニタリ行列であるから、Uもユニタリ行列である。ここでX=YUとすればXもまたユニタリ行列であり、



\begin{aligned}
X^{*}AX&=U^{*}Y^{*}AYU\\
&=\begin{bmatrix}
1&\boldsymbol{0}^{\prime}\\
\boldsymbol{0}&W^{*}
\end{bmatrix}\begin{bmatrix}
\lambda_1&\boldsymbol{y}_1^{*}AY_2\\
\boldsymbol{0}&B
\end{bmatrix}\begin{bmatrix}
1&\boldsymbol{0}^{\prime}\\
\boldsymbol{0}&W
\end{bmatrix}\\
&=\begin{bmatrix}
\lambda_1&\boldsymbol{y}_1^{*}AY_2W\\
\boldsymbol{0}&W^{*}BW
\end{bmatrix}\\
&=\begin{bmatrix}
\lambda_1&\boldsymbol{y}_1^{*}AY_2W\\
\boldsymbol{0}&T_2
\end{bmatrix}
\end{aligned}


が成り立ち、この最後の行列はその対角成分に\lambda_1,\cdots,\lambda_mを持つ上三角行列である。したがって題意は示された。  \blacksquare)

プライバシーポリシー お問い合わせ