要点まとめ

固有値・固有ベクトルの求め、対角化を行うことで行列の累乗の計算を簡易に行える。また、長方行列については左特異ベクトル、右特異ベクトルと固有値を用いることで、主成分分析に利用される。 $\boldsymbol{U}$ と $\boldsymbol{V}$ とが直交行列になることを覚えておくと、役に立つ。

固有値・固有ベクトル

行列 $\boldsymbol{A}$ に対して、 $\boldsymbol{A} \vec{x} = \lambda \vec{x}$ となるベクトル $\vec{x}$ を固有ベクトルといい、 $\lambda$ を固有値と言う。

演習

$\boldsymbol{A} = \begin{pmatrix} 1&4\\ 2&3 \end{pmatrix}$

について

$\displaystyle \boldsymbol{A} \vec{x} = \lambda \vec{x}$

を解くと、

$\displaystyle \lambda = 5, -1$

$\lambda = 5$ のとき、固有ベクトルは、

$\vec{x} = \begin{pmatrix} 1\\ 1 \end{pmatrix}$

$\lambda = -1$ のとき、固有ベクトルは、

$\vec{x} = \begin{pmatrix} 2\\ -1 \end{pmatrix}$

対角化

固有値を対角線上に並べた対角行列 $\Lambda$ と対応する固有ベクトルを並べた行列 $\boldsymbol{V}$ を用いて、

$\displaystyle \boldsymbol{A} \boldsymbol{V} = \boldsymbol{V} \boldsymbol{\Lambda}$

と表される。これより

$\displaystyle \boldsymbol{A} = \boldsymbol{V} \boldsymbol{\Lambda} \boldsymbol{V}^{-1}$

下記の様に累乗が容易に求められるメリットが有る。

$\displaystyle \boldsymbol{A}^{n} = \boldsymbol{V} \boldsymbol{\Lambda}^{n} \boldsymbol{V}^{-1}$

長方行列の特異値

長方行列 $\boldsymbol{A}$ に対して、特異値 $\sigma$ と左特異ベクトル $\boldsymbol{u}$ と右特異ベクトル $\boldsymbol{v}$ とを用いて下記のように定義される。

$\displaystyle \boldsymbol{A} \boldsymbol{v}= \sigma \boldsymbol{u} \tag{1}$

$\displaystyle \boldsymbol{A}^{T} \boldsymbol{u}= \sigma \boldsymbol{v} \tag{2}$

(1) より、

$\displaystyle \boldsymbol{A}^{T} \boldsymbol{A} \boldsymbol{v}= \sigma \boldsymbol{A}^{T} \boldsymbol{u} = \sigma^{2} \boldsymbol{v} \tag{3}$

(2) より、

$\displaystyle \boldsymbol{A} \boldsymbol{A}^{T} \boldsymbol{u}= \sigma \boldsymbol{A} \boldsymbol{v} = \sigma^{2} \boldsymbol{u} \tag{4}$

(3) の $\boldsymbol{A}^{T} \boldsymbol{A}$ と (4)の $\boldsymbol{A} \boldsymbol{A}^{T}$ は正方行列なので、固有値、固有ベクトルを求めるのと同様に、特異値 $\sigma$ と左特異ベクトル $\boldsymbol{u}$ と右特異ベクトル $\boldsymbol{v}$ を求められる。