統計学のための線形代数（040/X） - 「大人の教養・知識・気付き」を伸ばすブログ

　統計学に習熟するには線形代数の習得が不可欠である。が、初等的な線形代数ではカバーしきれないような分野も存在する。そこで以下の参考書

統計学のための線形代数

朝倉書店

Amazon

を基により高等な線形代数を学ぶ。

前回

power-of-awareness.com

前回
5.　一般化逆行列
- 5.6　Moore-Penrose形一般化逆行列の連続性
- 5.7　その他の一般化逆行列

5.　一般化逆行列

5.6　Moore-Penrose形一般化逆行列の連続性

　 $\mathrm{Moore}$ - $\mathrm{Penrose}$ 型一般化逆行列の連続性を考える。そのためにまずは一般的な正則行列とその逆行列に関する連続性を議論する。
　 $m$ 次正方行列とその逆行列 $A^{-1}$ を考える。 $A$ の行列式はその項( $A$ の要素の積を $-1$ 倍または $+1$ 倍したもの)の和で表すことができ、和に関する連続性およびスカラー積に関する連続性により、以下が成り立つ。

定理5.18　行列式の連続性　 $m$ 次正方行列 $A$ について、その行列式 $\left|A\right|$ は $A$ の要素の連続関数である。

　 $m$ 次正方行列 $A$ を正則、すなわち $|A|\neq0$ とする。このとき逆行列 $A^{-1}$ は、 $A_{\#}$ を $A$ の随伴行列としたとき、

$\begin{aligned} A^{-1}=\left|A\right|^{-1}A_{\#} \end{aligned}$

である。
　数列 $\left\{A_i\right\}$ が、 $A_i\rightarrow A(i\rightarrow\infty)$ であるならば、関数

$\begin{aligned} f(A)=\left|A\right| \end{aligned}$

の連続性から、 $\left|A_i\right|\rightarrow\left|A\right|$ が成り立つから、

$\begin{aligned} {}^{\exists}N\in\mathbb{N}\left({}^{\forall}\!i\gt N\left(\left|A_i\right|\neq0\right)\right) \end{aligned}$

が成り立たなければならない。また随伴行列の各成分は行列式の $+1$ 倍または $-1$ 倍であるから、行列式関数の連続性から、 $A_i$ の随伴行列 $A_{i\#}$ に対して、 $A_{i\#}\rightarrow A_{\#}(i\rightarrow\infty)$ も導かれる。
　以上をまとめることで、以下の定理を得る。

定理5.19　逆行列の連続性　 $m$ 次正則行列 $A$ に対して、 $A$ の逆行列 $A^{-1}$ は $A$ の成分に対する連続関数である。

　次いで $\mathrm{Moore}$ - $\mathrm{Penrose}$ 型一般化逆行列の連続性を考える。一般に、 $m\times n$ 行列 $A$ および列 $\left\{A_i\right\}$ について $A_i\rightarrow A(i\rightarrow\infty)$ であるとしても、 $A_i^{+}\rightarrow A^{+}$ とは限らない。実例からその例を見てみよう。

例
　 $i=1,2,\cdots$ に対して、 $2$ 次正方行列の列 $\{A_i\}$ を考える。ここで
$\begin{aligned} A_i=\begin{bmatrix} \displaystyle{\frac{1}{i}}&0\\ 0&1 \end{bmatrix} \end{aligned}$
とする。
$\begin{aligned} A=\begin{bmatrix} 0&0\\ 0&1 \end{bmatrix} \end{aligned}$
とおけば、明らかに $A_i\rightarrow A(i\rightarrow\infty)$ である。しかし、すべての $i$ において、 $\mathrm{rank}(A_i)=2$ であるのに対して $\mathrm{rank}(A)=1$ であることに注意すれば、これが $A_i^{+}\rightarrow A^{+}$ であることが理由であると推察できる。実際、
$\begin{aligned} A_i=\begin{bmatrix} \displaystyle{\frac{1}{i}}&0\\ 0&1 \end{bmatrix} \end{aligned}$
では $(1,1)$ 成分が正の無限大に発散するので決して収束しない一方で、
$\begin{aligned} A^{+}=\begin{bmatrix} 0&0\\ 0&1 \end{bmatrix} \end{aligned}$
である。

　以上の例から、 $A^{+}$ の連続性はそのランクで議論できる可能性が分かった。実際の以下の定理が知られている。

定理5.20　 $\mathrm{Moore}$ - $\mathrm{Penrose}$ 型一般化逆行列の連続性　 $A$ を $m\times n$ 行列、 $m\times n$ 行列の列 $\left\{A_i\right\},A_i\rightarrow A$ $(i\rightarrow\infty)$ に対して、

$\begin{aligned} {}^{\exists}N\in\mathbb{N}\left({}^{\forall}\! i\gt N\left(\mathrm{rank}(A_i)=\mathrm{rank}(A)\right)\right) \end{aligned}$

であることは $A_i^{+}\rightarrow A(i\rightarrow\infty)$ であることの必要十分条件である。

　 $\mathrm{Moore}$ - $\mathrm{Penrose}$ 型一般化逆行列は推定や仮説検定において重要な意味を持つ。以下の例で見てみよう。

例：一致性と $\mathrm{Moore}$ - $\mathrm{Penrose}$ 型一般化逆行列の連続性
　標本サイズが $n$ であるような標本から計算された母数 $\theta$ の推定量 $t$ が確率収束する、すなわち
$\begin{aligned} {}^{\forall}\!\varepsilon\gt0\left(P\left(\left\{\left|t-\theta\right|\geq\varepsilon\right\}\right)=0\right) \end{aligned}$
が成り立つならば、推定量 $t$ は母数 $\theta$ の一致推定量であるという。
　一致性に関しては、一致推定量の連続関数も一致推定量になることが知られている。この考えを $\mathrm{Moore}$ - $\mathrm{Penrose}$ 型一般化逆行列の推定を含む状況へ適用しよう。
　 $\mathit{\Omega}$ を階数 $r\lt m$ の $m$ 次非負定値共分散行列とする。また行列 $\mathit{\Omega}$ は未知で推定の対象であるとする。
　ここで $\mathit{\Omega}$ の一致推定量で $\mathrm{rank}\left(\mathit{\hat{\Omega}}\right)=m$ であるような $\mathit{\hat{\Omega}}$ が見つかったとする。すなわち $\mathit{\hat{\Omega}}$ の各成分は $\mathit{\Omega}$ の対応する成分の一致推定量であると仮定する。このとき $\mathrm{rank}\left(\mathit{\Omega}\right)=r\lt m$ であるから、 $\mathit{\hat{\Omega}}^{+}$ は $\mathit{\Omega}^{+}$ の一致推定量ではない。
　したがって、もし
$\begin{aligned} \mathit{\hat{\Omega}}=X\Lambda X^{\prime} \end{aligned}$
が $\mathit{\hat{\Omega}}=$ $\mathit{\hat{\Omega}}^{-1}$ $=X\Lambda^{-1}X^{\prime}$ であるような $\mathit{\hat{\Omega}}$ のスペクトル分解であるならば、 $\mathit{\hat{\Omega}}$ の一致性は、 $n$ が増加するにつれて $\mathit{\Lambda}$ における小さい方から $m-r$ 個までの対角成分が $0$ に収束し、 $\mathit{\Lambda}^{-1}$ における大きい方から $m-r$ 個までの対角成分が限りなく大きくなることを意味する。