「大人の教養・知識・気付き」を伸ばすブログ

一流の大人(ビジネスマン、政治家、リーダー…)として知っておきたい、教養・社会動向を意外なところから取り上げ学ぶことで“気付く力”を伸ばすブログです。データ分析・語学に力点を置いています。 →現在、コンサルタントの雛になるべく、少しずつ勉強中です(※2024年1月21日改訂)。

MENU

統計学のための線形代数(029/X)

 統計学に習熟するには線形代数の習得が不可欠である。が、初等的な線形代数ではカバーしきれないような分野も存在する。そこで以下の参考書

を基により高等な線形代数を学ぶ。

4. 行列の因数分解と行列ノルム

4.8 行列ノルム

 ベクトルの系列の極限や行列の系列の極限が興味の対象となる場合がある。各jについて、\boldsymbol{x}_kj番目の成分がk\rightarrow\inftyとなるにしたがって\boldsymbol{x}j番目の成分に収束するならば、すなわち各jについてk\rightarrow\inftyになるにしたがって


\begin{aligned}
\left|x_{jk}-x_j\right|\rightarrow 0
\end{aligned}

となるならば、m\times1ベクトル系列\boldsymbol{x}_1,\boldsymbol{x}_2,\cdots\boldsymbol{x}j番目の成分に収束する。同様にk\rightarrow\inftyとなるにつれてA_kの各成分が対応するAの成分に収束するならば、m次正方行列の数列A_1,A_2,\cdotsm次正方行列Aに収束する。一方で系列の収束の概念は特定のノルムの視点から捉えることができる。そこでベクトルノルム\|\boldsymbol{x}\|でこの議論を捕らえると、k\rightarrow\inftyとなるにしたがって\|\boldsymbol{x}_k-\boldsymbol{x}\|\rightarrow0となるならば、\boldsymbol{x}_1,\boldsymbol{x}_2,\cdots\boldsymbol{x}に収束する。
 以下の定理は、この議論においてどのノルムを選択するかが重要でないことを示している。



ノルムの収束性 任意のm次列ベクトル\boldsymbol{x}に対して定義された任意の2つのベクトルノルム\|\boldsymbol{x}\|_a,\|\boldsymbol{x}\|_bを考える。m次列ベクトル列\boldsymbol{x}_1,\boldsymbol{x}_2,\cdotsに対して、k\rightarrow\inftyとなるにしたがって\|\boldsymbol{x}\|_bに関して\boldsymbol{x}_k\boldsymbol{x}に収束することが、k\rightarrow\inftyのときに\|\boldsymbol{x}\|_aに関して\boldsymbol{x}_k\boldsymbol{x}に収束することが必要十分条件である。


 これらから以下の系を得る。



ノルムの収束性(系) 任意のm次正方行列Aに対して定義された任意の2つのベクトルノルム\|A\|_a,\|\boldsymbol{x}\|_bを考える。m次正方行列の列A_1,A_2,\cdotsとするとき、k\rightarrow\inftyとなるのにしたがって\|A\|_bに関してA_kAに収束することが、k\rightarrow\inftyのときに\|A\|_aに関してA_kAに収束することが必要十分条件である。


 他方で固定されたm次正方行列Aに対して定義されるA,A^2,A^3,\cdotsについて、この列が零行列に収束するための十分条件が以下で与えられる。



冪行列の列の収束性 任意のm次正方行列Aに対して定義されたある行列ノルムについて\|A\|\lt1が成り立つものとする。このとき、\displaystyle{\lim_{k\rightarrow\infty} A^k}=Oが成り立つ。 
(\because 行列ノルムの5つ目の性質\|AB\|\leq\|A\|\|B\|から、B=Aとおいてこれを帰納的に繰り返すことで


\begin{aligned}
\|A^k\|\leq\|A^{k-1}\|\|A\|\leq\cdots\leq\|A\|^k
\end{aligned}

を得る。仮定\|A\|\lt1から\|A\|^k\rightarrow0(k\rightarrow\infty)が成り立つから、ノルム\|\cdot\|について


\begin{aligned}
A^k\rightarrow O(k\rightarrow\infty)
\end{aligned}

が成立する。このとき上で言及した系からA^kは行列ノルム


\begin{aligned}
\|A\|_{*}=m\left(\displaystyle{\max_{1\leq i,j\leq m}|a_{ij}|}\right),\ A=(a_{ij})
\end{aligned}

に関してもOに収束する。これはk\rightarrow\inftyにおいて各i,jについて|a_{ij}^k|\rightarrow0であることを示している。 \blacksquare)


 またA^kの零行列Oへの収束とAのスペクトル半径の大きさの関係も以下のように示すことができる。



行列ノルムの収束とスペクトル半径 m次正方行列Aについて、\rho(A)\lt1k\rightarrow\inftyのときにA^kOに収束することの必要十分条件である。
(\because k\rightarrow\inftyのときにA^k\rightarrow Oだと仮定する。このとき任意のm次列ベクトル\boldsymbol{x}に対してA^k\boldsymbol{x}\rightarrow\boldsymbol{0}が成立する。いまA固有値\lambdaに対応する固有ベクトル\boldsymbol{y}とすれば、A^k\boldsymbol{y}=\lambda^k\boldsymbol{y}が成り立つから、\lambda^k\boldsymbol{y}\rightarrow0も成り立つ。これは\|\lambda|\lt1のときのみ成立するから、\rho(A\lt1である。
 逆に\rho(A\lt1であるならば、前に示した定理から、\|A\|\lt1を満たすような行列ノルムが存在する。したがって別の前の定理からA^k\rightarrow O(k\rightarrow\infty)が成立する。 \blacksquare)



スペクトル半径と行列ノルム m次正方行列Aは、任意の行列ノルム\|A\|に対して


\begin{aligned}
\displaystyle{\lim_{k\rightarrow\infty}\|A^k\|^{\frac{1}{k}}}=\rho(A)
\end{aligned}

が成立する。

(\because A固有値\lambdaに対して\lambda^kA^k固有値である。さらに|\lambda|^k=|\lambda^k|であるから、\rho(A)^k=\rho\left(A^k\right)が成立する。前に示した定理から、


\begin{aligned}
\rho(A)^k&\leq\|A^k\|,\\
\rho(A)&\leq\|A^k\|^{\frac{1}{k}}
\end{aligned}

が得られる。したがって{}^{\forall}\varepsilon\gt0に対して、すべてのk\gt N_{\varepsilon}に対して\|A^k\|^{\frac{1}{k}}\lt\rho(A)+\varepsilonを満たすような整数N_{\varepsilon}の存在を証明すればよい。
 これは{}^{\forall}k\gt N_{\varepsilon}に対して\|A^k\|\lt(\rho(A)+\varepsilon)^{k}あるいは同等に


\begin{aligned}
\|B^k\|\lt1
\end{aligned}

を満たすような整数N_{\varepsilon}が存在することを示すとの同値である。ここでB=(\rho(A)+\varepsilon)^{-1}Aである。
 一方で


\begin{aligned}
\rho(B)=\displaystyle{\frac{\rho(A)}{\rho(A)+\varepsilon}}\lt1
\end{aligned}

であるから、\|B^k\|\lt1は、前の定理から直ちに成り立つ。 \blacksquare)

プライバシーポリシー お問い合わせ