統計学のための線形代数（023/X） - 「大人の教養・知識・気付き」を伸ばすブログ

　統計学に習熟するには線形代数の習得が不可欠である。が、初等的な線形代数ではカバーしきれないような分野も存在する。そこで以下の参考書

統計学のための線形代数

朝倉書店

Amazon

を基により高等な線形代数を学ぶ。

前回

power-of-awareness.com

前回
4.　行列の因数分解と行列ノルム
- 4.5　Jordan分解
- 4.6　Schur分解
次回

4.　行列の因数分解と行列ノルム

4.5　Jordan分解

　対角行列でなくとも可能な限り対角行列に近いような、 $A$ の相似な行列を見つけるための方法が $\mathrm{Jordan}$ 標準形である。

$\mathrm{Jordan}$ 標準形　 $h\gt1$ に対して $h$ 次正方行列 $J_h(\lambda)$ が以下の形態

$\begin{aligned} J_h(\lambda)=\lambda I+\displaystyle{\sum_{i=1}^{h-1}\boldsymbol{e}_i\boldsymbol{e}_{i+1}^{\prime}}=\begin{bmatrix} \lambda&1&0&\cdots&0\\ 0&\lambda&1&\cdots&0\\ 0&0&\lambda&\cdots&0\\ \vdots&\vdots&\vdots&&\vdots\\ 0&0&0&\cdots&\lambda \end{bmatrix} \end{aligned}$

を取るとき、 $\mathrm{Jordan}$ 標準形という。

$J_{h}(\lambda)$ は唯一の線形独立な固有ベクトルを持ち、それは $\boldsymbol{x}=(x_1,0,\cdots,0)^{\prime}$ の形を取っている。

$\mathrm{Jordan}$ 分解定理　 $m$ 次正方行列に対して、以下を満たすような正則行列 $B$ が存在する。

$\begin{aligned} B^{-1}AB&=J=\mathrm{diag}(J_{h_1}(\lambda_1),\cdots,J_{h_r}(\lambda_r) )\\ &=\begin{bmatrix} J_{h_1}(\lambda_1)&0&\cdots&0\\ 0&J_{h_2}(\lambda_2)&\cdots&0\\ \vdots&\vdots&&\vdots\\ 0&0&\cdots&J_{h_r}(\lambda_r) \end{bmatrix} \end{aligned}$

ここで $h_1+h_"+\cdots+h_r=m$ で、 $\lambda_1,\cdots,\lambda_r$ は互いに相異なるとは限らない $A$ の固有値である。

　 $J$ は、もし ${}^{\forall}i\in\{1,2,\cdots,r\}$ に対して $h_i=1$ ならば、 $\mathrm{Jordan}$ 分解定理により $A$ は対角化可能である。しかし $h_i$ 次正方行列 $J_{h_i}(\lambda_i)$ はただ1つの線形独立な固有ベクトルを持つため、 $\mathrm{Jordan}$ 標準形 $J=\mathrm{diag}(J_{h_1}(\lambda_1),\cdots,J_{h_r}(\lambda_r) )$ は $r$ 個の線形独立な固有ベクトルを持つ。したがって少なくとも1つの $i$ について $h_i\gt1$ ならば $J$ は対角行列ではない。 $J$ が対角行列である場合に限り $A$ は対角化可能である。

4.6　Schur分解

　任意の正方行列 $A$ のスペクトル分解定理のもう1つの一般化として $\mathrm{Schur}$ 分解がある。
　スペクトル分解定理

(再掲)スペクトル分解　 $A$ を固有値 $\lambda_1,\cdots,\lambda_m$ を持つ $m$ 次対称行列とし、 $\boldsymbol{x}_1,\cdots,\boldsymbol{x}_m$ をそれらの固有値に対応する正規直交固有ベクトルの集合だと仮定する。そのとき $\Lambda=\mathrm{diag}(\lambda_1,\cdots,\lambda_m), X=(\boldsymbol{x}_1,\cdots,\boldsymbol{x}_m)$ とすれば、

$\begin{aligned} A=X\Lambda X^{\prime} \end{aligned}$

が成り立つ。

で用いた直交行列に焦点を当てる。直交行列 $X$ に話を限定したとき、 $X^{\prime}AX$ として得られる最も単純な形態はどのようなものか。任意の実正方行列 $A$ について、 $X^{*}AX$ が三角行列であるような $X$ が見つかることは分かっている。では実ユニタリ行列は直交行列であるようなユニタリ行列に拡張したらどうなるか。それが $\mathrm{Schur}$ 分解である。

$\mathrm{Schur}$ 分解　 $m$ 次正方行列 $A$ に対して、

$\begin{aligned} X^{*}AX=T \end{aligned}$

を満たすような $m$ 次ユニタリ行列 $X$ が存在する。ここで $T$ はその対角成分が $A$ の固有値であるような上三角行列である。

( $\because$ 　 $\lambda_1,\cdots,\lambda_m$ を $A$ の固有値とする。また $\boldsymbol{y}_1$ を $\boldsymbol{y}_1^{*}\boldsymbol{y}_1=1$ を満たすような $\lambda_1$ に対応する $A$ の固有ベクトルとする。さらに $Y$ を最初の列に $\boldsymbol{y}_1$ を持つ任意の $m$ 次ユニタリ行列だとする。 $Y=[\boldsymbol{y}_1\ \ Y_2]$ と表記すれば、 $A\boldsymbol{y}_1=\lambda_1\boldsymbol{y}_1$ および $Y_2^{*}\boldsymbol{y}_1=\boldsymbol{0}$ に注意すれば、

$\begin{aligned} Y^{*}AY&=\begin{bmatrix} \boldsymbol{y}_1^{*}A\boldsymbol{y}_1&\boldsymbol{y}_1^{*}AY_2\\ Y_2^{*}A\boldsymbol{y}_1&Y_2^{*}AY_2 \end{bmatrix}=\begin{bmatrix} \lambda_1\boldsymbol{y}_1^{*}\boldsymbol{y}_1&\boldsymbol{y}_1^{*}AY_2\\ \lambda_1Y_2^{*}\boldsymbol{y}_1&Y_2^{*}AY_2 \end{bmatrix}\\ &=\begin{bmatrix} \lambda_1&\boldsymbol{y}_1^{*}AY_2\\ \boldsymbol{0}&B \end{bmatrix} \end{aligned}$

である。ここで $m-1$ 次正方行列 $B=Y_2^{*}AY_2$ である。これらから $Y^{*}AY$ の特性方程式は

$\begin{aligned} (\lambda_1-\lambda)|B-\lambda I|=0 \end{aligned}$

である。また $Y^{*}AY$ の固有値は $A$ の固有値と同じであるから、 $B$ の固有値は $\lambda_2,\cdots,\lambda_n$ でなければならない。もし $m=2$ ならば $Y^{*}AY$ は上三角行列になる。また $m\gt2$ ならば帰納法により示すことができる。すなわち $(m-1)$ 次正方行列において結果が成り立つと仮定すると、 $B$ は $(m-1)$ 次正方行列であるから $W^{*}BW=T_2$ となるようなユニタリ行列 $W$ が存在すると仮定しても良い。ここで $T_2$ は対角成分が $\lambda_2,\cdots,\lambda_m$ であるような上三角行列である。 $m$ 次正方行列 $U$ を

$\begin{aligned} U=\begin{bmatrix} 1&\boldsymbol{0}^{\prime}\\ \boldsymbol{0}&W \end{bmatrix} \end{aligned}$

と定義する。 $W$ はユニタリ行列であるから、 $U$ もユニタリ行列である。ここで $X=YU$ とすれば $X$ もまたユニタリ行列であり、

$\begin{aligned} X^{*}AX&=U^{*}Y^{*}AYU\\ &=\begin{bmatrix} 1&\boldsymbol{0}^{\prime}\\ \boldsymbol{0}&W^{*} \end{bmatrix}\begin{bmatrix} \lambda_1&\boldsymbol{y}_1^{*}AY_2\\ \boldsymbol{0}&B \end{bmatrix}\begin{bmatrix} 1&\boldsymbol{0}^{\prime}\\ \boldsymbol{0}&W \end{bmatrix}\\ &=\begin{bmatrix} \lambda_1&\boldsymbol{y}_1^{*}AY_2W\\ \boldsymbol{0}&W^{*}BW \end{bmatrix}\\ &=\begin{bmatrix} \lambda_1&\boldsymbol{y}_1^{*}AY_2W\\ \boldsymbol{0}&T_2 \end{bmatrix} \end{aligned}$

が成り立ち、この最後の行列はその対角成分に $\lambda_1,\cdots,\lambda_m$ を持つ上三角行列である。したがって題意は示された。　　 $\blacksquare$ )

次回

power-of-awareness.com

前回

4. 行列の因数分解と行列ノルム

4.5 Jordan分解

4.6 Schur分解

次回

4.　行列の因数分解と行列ノルム

4.5　Jordan分解

4.6　Schur分解