「大人の教養・知識・気付き」を伸ばすブログ

　定番書

線型代数入門 (基礎数学)

作者:齋藤正彦
東京大学出版会

Amazon

を基に線形代数を学び直していく。

今日のまとめ
2.　行列と線形写像
- 2.5　内積とユニタリ行列・直交行列

今日のまとめ

内積の定義

2.　行列と線形写像

2.5　内積とユニタリ行列・直交行列

2.5.1　内積

　 $n$ 次元ベクトル $\boldsymbol{x},\ \boldsymbol{y}\in\mathbb{C}^{n}$ に対して

$\begin{aligned} (\boldsymbol{x},\boldsymbol{y}):=\displaystyle{\sum_{i=1}^{n}x_i\bar{y}_i} \end{aligned}$

を $\boldsymbol{x},\ \boldsymbol{y}$ の内積という。
　内積は以下の性質を持つ。 $\boldsymbol{x}_1,\boldsymbol{x},_2,\boldsymbol{y}_1,\boldsymbol{y}_2\in\mathbb{C}^{n},\ c\in\mathbb{C}$ として

$\begin{aligned} \begin{cases} (\boldsymbol{x}_1+\boldsymbol{x}_2,\boldsymbol{y}_1)=(\boldsymbol{x}_1,\boldsymbol{y}_1)+(\boldsymbol{x}_2,\boldsymbol{y}_1),\\ (\boldsymbol{x}_1,\boldsymbol{y}_1+\boldsymbol{y}_2)=(\boldsymbol{x}_1,\boldsymbol{y}_1)+(\boldsymbol{x}_1,\boldsymbol{y}_2),\\ (c\boldsymbol{x}_1,\boldsymbol{y}_1)=c(\boldsymbol{x}_1,\boldsymbol{y}_1),\\ (\boldsymbol{x}_1,c\boldsymbol{y}_1)=\bar{c}(\boldsymbol{x}_1,\boldsymbol{y}_1),\\ (\boldsymbol{y}_1,\boldsymbol{x}_1)=\overline{(\boldsymbol{x}_1,\boldsymbol{y}_1)},\\ (\boldsymbol{x}_1,\boldsymbol{x}_1)\geq0,\\ (\boldsymbol{x}_1,\boldsymbol{x}_1)=0\Longleftrightarrow \boldsymbol{x}_1=\boldsymbol{0} \end{cases} \end{aligned}$

はじめの5つの性質をまとめて共役線形性といい、最後の2つの性質を正値性という。
　 $\boldsymbol{x}\in\mathbb{C}^{n}$ について

$\begin{aligned} \|\boldsymbol{x}\|=\sqrt{(\boldsymbol{x},\boldsymbol{x})} \end{aligned}$

を $\boldsymbol{x}$ のノルムという。

2.5.2　ノルムを巡る不等式

　ノルムについて以下の2つの不等式が成り立つ：

$\begin{aligned} (1)&\ \ \ \ \ |(\boldsymbol{x},\boldsymbol{y})|\leq\|\boldsymbol{x}\|\cdot\|\boldsymbol{y}\|,&\ \ \ \ \ \ \ \ \ (Schwartzの不等式)\\ (2)&\ \ \ \ \ \|\boldsymbol{x}+\boldsymbol{y}\|\leq\|\boldsymbol{x}\|+\|\boldsymbol{y}\|&\ \ \ \ \ \ \ \ \ \ (三角不等式) \end{aligned}$

( $\because$ 　まず(1)を示す。 $\boldsymbol{y}=\boldsymbol{0}$ ならば示すべき不等式は $0\leq0$ となり成立する。
　 $\boldsymbol{y}\neq\boldsymbol{0}$ の場合、 ${}^{\forall}a,{}^{\forall}b\in\mathbb{C}$ について、内積の性質から

$\begin{aligned} 0\leq\|a\boldsymbol{x}+b\boldsymbol{y}\|^2=|a|^2\|\boldsymbol{x}\|^2+a\bar{b}\|\boldsymbol{x},\boldsymbol{y}\|+\bar{a}b\|\boldsymbol{y},\boldsymbol{x}\|+|b|^2\|\boldsymbol{y}\|^2 \end{aligned}$

が成り立つ。ここで $a,b$ は任意に取ったから、特に $a=\|\boldsymbol{y}\|^2,b=-(\boldsymbol{x},\boldsymbol{y})$ とすれば上記した不等式は

$\begin{aligned} 0&\leq\|\boldsymbol{y}\|^4\|\boldsymbol{x}\|^2-\|\boldsymbol{y}\|^2|(\boldsymbol{x},\boldsymbol{y})|^2-\|\boldsymbol{y}\|^2|(\boldsymbol{x},\boldsymbol{y})|^2+\|\boldsymbol{y}\|^2|(\boldsymbol{x},\boldsymbol{y})|^2\\ &=\|\boldsymbol{y}\|^2\{\|\boldsymbol{x}\|^2\|\boldsymbol{y}\|^2-|(\boldsymbol{x},\boldsymbol{y})|^2\}^2\\ \therefore\ \ &0\leq \{\|\boldsymbol{x}\|^2\|\boldsymbol{y}\|^2-|(\boldsymbol{x},\boldsymbol{y})|^2\}^2\\ \Longleftrightarrow\ \ &|(\boldsymbol{x},\boldsymbol{y})|\leq \|\boldsymbol{x}\| \|\boldsymbol{y}\| \end{aligned}$

　次に(2)を示す。両辺を2乗した不等式を示す。

$\begin{aligned} \|\boldsymbol{x}+\boldsymbol{y}\|^2=&\|\boldsymbol{x}\|^2+(\boldsymbol{x},\boldsymbol{y})+\overline{(\boldsymbol{x},\boldsymbol{y})}+\|\boldsymbol{y}\|^2\\ \leq&\|\boldsymbol{x}\|^2+2|(\boldsymbol{x},\boldsymbol{y})|+\|\boldsymbol{y}\|^2\\ \leq&\|\boldsymbol{x}\|^2+2\|\boldsymbol{x}\|\|\boldsymbol{y}\|+\|\boldsymbol{y}\|^2\\ =&(\|\boldsymbol{x}\|+\|\boldsymbol{y}\|)^2 \end{aligned}$

両辺の負でない平方根を取ることで(2)の成立を示すことが出来た。　 $\blacksquare$ )

2.5.3　直交

　内積 $(\boldsymbol{x},\boldsymbol{y})=0$ のとき、 $\boldsymbol{x}$ と $\boldsymbol{y}$ は直交するという。これは幾何学的な意味での直交をベクトルに翻訳したものである。

2.5.4　行列を交えた内積の定義

　 $(m,n)$ 型行列 $A$ 、 $\boldsymbol{x}\in\mathbb{C}^{n}$ の積 $A\boldsymbol{x}$ は $\mathbb{C}^{m}$ の元であるから、 ${}^{\forall}\boldsymbol{y}\in\mathbb{C}^{m}$ とで内積を定義できる。その内積に関し以下が成り立つ。

$\begin{aligned} (A\boldsymbol{x},\boldsymbol{y})=(\boldsymbol{x},{}^{t}\bar{A}\boldsymbol{y}) \end{aligned}$
　逆に任意の $\boldsymbol{x},\boldsymbol{y}$ に対して
$\begin{aligned} (A\boldsymbol{x},\boldsymbol{y})=(\boldsymbol{x},B\boldsymbol{y}) \end{aligned}$
ならば $B={}^{t}\bar{A}$ である。

( $\because$ 　まず前者について示す。

$\begin{aligned} (A\boldsymbol{x},\boldsymbol{y})={}^{t}(A\boldsymbol{x})\bar{\boldsymbol{y}}={}^{t}\boldsymbol{x}{}^{t}A\bar{\boldsymbol{y}}={}^{t}\boldsymbol{x}(\overline{{}^{t}\bar{A}\boldsymbol{y}})=(\boldsymbol{x},{}^{t}\bar{A}\boldsymbol{y}) \end{aligned}$

　次に

$\begin{aligned} (A\boldsymbol{x},\boldsymbol{y})=(\boldsymbol{x},B\boldsymbol{y}) \end{aligned}$

が成り立つとする。このとき ${}^{\forall}\boldsymbol{x}$ に対して

$\begin{aligned} (\boldsymbol{x},({}^{t}\bar{A}-B)\boldsymbol{y})=0 \end{aligned}$

が成立する。したがって ${}^{\forall}\boldsymbol{y}$ に対して $({}^{t}\bar{A}-B)\boldsymbol{y}=\boldsymbol{0}$ であり、これは $B={}^{t}\bar{A}$ を意味する。　 $\blacksquare$ ）

2.5.5　対称行列と直交行列

　行列 $A$ に対して ${}^{t}\bar{A}$ を $A$ の随伴行列といい、 $A^{*}$ で表す。
　随伴行列は以下を満たす：

$\begin{aligned} (A^{*})^{*}=A,&\ \ \ \ \ \ \ \ \ \ (A+B)^{*}=A^{*}+B^{*}\\ (cA)^{*}=\bar{c}A^{*},&\ \ \ \ \ \ \ \ \ \ (AB)^{*}=B^{*}A^{*} \end{aligned}$

　正方行列 $A$ が $A=A^{*}$ を満たすとき、 $A$ をHermite行列という。特に実Hermite行列を対称行列という。すなわち

　転置行列が元の行列に等しい、すなわち
$\begin{aligned} A={}^{t}A \end{aligned}$
を満たすような正方行列を対称行列と言う。

　また

$\begin{aligned} A{}^{*}A=I \end{aligned}$

を満たすような正方行列をユニタリ行列といい、特に

$\begin{aligned} A{}^{t}A=I \end{aligned}$
を満たすような実数を成分に持つ正方行列を直交行列という。

　ユニタリ行列に関する以下の命題はすべて同値である：

(1) $A$ はユニタリ行列である。
(2) ${}^{\forall}\boldsymbol{x}\in\mathbb{C}^{n}$ に関して
$\begin{aligned} \|A\boldsymbol{x}\|=\|\boldsymbol{x}\| \end{aligned}$
(3) ${}^{\forall}\boldsymbol{x},{}^{\forall}\boldsymbol{y}\in\mathbb{C}^{n}$ に関して
$\begin{aligned} (A\boldsymbol{x},A\boldsymbol{y})=(\boldsymbol{x},\boldsymbol{y}) \end{aligned}$
(4) $A$ の列ベクトル $\boldsymbol{a}_1,\cdots,\boldsymbol{a}_n$ に関して
$\begin{aligned} (\boldsymbol{a}_i,\boldsymbol{a}_j)=\delta_{ij}=\begin{cases} 1,&\ \ i=j,\\ 0,&\ \ i\neq j \end{cases} \end{aligned}$
( $\because$ 　まず(1) $\Longrightarrow$ (2)について
$\begin{aligned} \|A\boldsymbol{x}\|&=(A\boldsymbol{x},A\boldsymbol{x})={}^{t}\boldsymbol{x}{}^{t}A\bar{A}\bar{\boldsymbol{x}}\\ &={}^{t}\boldsymbol{x}\bar{\boldsymbol{x}}=\|\boldsymbol{x}\|^2 \end{aligned}$
より成り立つ。次に(2) $\Longrightarrow$ (3)について
$\begin{aligned} \|\boldsymbol{x}+\boldsymbol{y}\|^2=\|\boldsymbol{x}\|^2+(\boldsymbol{x},\boldsymbol{y})+(\overline{\boldsymbol{x},\boldsymbol{y}})+\|\boldsymbol{y}\|^2 \end{aligned}$
であり、
$\begin{aligned} \|A(\boldsymbol{x}+\boldsymbol{y})\|^2=\|A\boldsymbol{x}\|^2+(A\boldsymbol{x},A\boldsymbol{y})+(\overline{A\boldsymbol{x},A\boldsymbol{y}})+\|A\boldsymbol{y}\|^2 \end{aligned}$
であるが、(2)より
$\begin{aligned} \|(\boldsymbol{x}+\boldsymbol{y})\|^2=\|A(\boldsymbol{x}+\boldsymbol{y})\|^2&=\|A\boldsymbol{x}\|^2+(A\boldsymbol{x},A\boldsymbol{y})+(\overline{A\boldsymbol{x},A\boldsymbol{y}})+\|A\boldsymbol{y}\|^2\\ &=\|\boldsymbol{x}\|^2+(A\boldsymbol{x},A\boldsymbol{y})+(\overline{A\boldsymbol{x},A\boldsymbol{y}})+\|\boldsymbol{y}\|^2\\ &=\|\boldsymbol{x}\|^2+(\boldsymbol{x},\boldsymbol{y})+(\overline{\boldsymbol{x},\boldsymbol{y}})+\|\boldsymbol{y}\|^2\\ \therefore&\ \ \ \ (\boldsymbol{x},\boldsymbol{y})+(\overline{\boldsymbol{x},\boldsymbol{y}})=(A\boldsymbol{x},A\boldsymbol{y})+(\overline{A\boldsymbol{x},A\boldsymbol{y}}) \end{aligned}$
が成り立つ。
　したがって $(\boldsymbol{x},\boldsymbol{y})$ と $(A\boldsymbol{x},A\boldsymbol{y})$ の実数部分は一致している。他方で $\boldsymbol{x}$ に $i\boldsymbol{x}$ を代入すると
$\begin{aligned} i\{(\boldsymbol{x},\boldsymbol{y})-\overline{(\boldsymbol{x},\boldsymbol{y})}\}=i\{A(\boldsymbol{x},\boldsymbol{y})-(A\boldsymbol{x},A\boldsymbol{y})\} \end{aligned}$
により虚数部分も等しい。したがって
$\begin{aligned} (A\boldsymbol{x},A\boldsymbol{y})=(\boldsymbol{x},\boldsymbol{y}) \end{aligned}$
が成り立つ。
　(3) $\Longrightarrow$ (1)を示す。 ${}^{\forall}\boldsymbol{x},{}^{\forall}\boldsymbol{y}$ について
$\begin{aligned} (\boldsymbol{x},(A^{*}A-I)\boldsymbol{y})&=(\boldsymbol{x},A^{*}A\boldsymbol{y})-(\boldsymbol{x},\boldsymbol{y})\\ &=(A\boldsymbol{x},A\boldsymbol{y})-(\boldsymbol{x},\boldsymbol{y})=0 \end{aligned}$
であるから、 $A^{*}A-I=O$ が成り立つ。
　(1) $\Longrightarrow$ (4)について
$\begin{aligned} {}^{t}A\bar{A}=\begin{bmatrix} (\boldsymbol{a}_1,\boldsymbol{a}_1)&(\boldsymbol{a}_1,\boldsymbol{a}_2)&\cdots&(\boldsymbol{a}_1,\boldsymbol{a}_n)\\ (\boldsymbol{a}_2,\boldsymbol{a}_1)&(\boldsymbol{a}_2,\boldsymbol{a}_2)&\cdots&(\boldsymbol{a}_2,\boldsymbol{a}_n)\\ \vdots&\vdots&&\vdots\\ (\boldsymbol{a}_n,\boldsymbol{a}_1)&(\boldsymbol{a}_n,\boldsymbol{a}_2)&\cdots&(\boldsymbol{a}_n,\boldsymbol{a}_n)\\ \end{bmatrix} \end{aligned}$
より成り立つ。　 $\blacksquare$ )