21. 固有値と固有ベクトル

線形代数学 I 講義ノート：固有値と固有ベクトル

1. はじめに：なぜ固有値を学ぶのか？

線形変換はベクトルを別のベクトルに写像しますが、多くの複雑な変換の中にも、その変換の本質を捉える「特別な方向」が存在します。行列 $A$ による変換を考えても、方向が変わらず、大きさだけが変化するベクトルです。

この特別な方向を示すベクトルが固有ベクトル (eigenvector) であり、その大きさの変化率が固有値 (eigenvalue) です。

固有値と固有ベクトルを理解することは、複雑な線形変換を、その「軸」に沿った単純な伸縮操作として分解して捉えることを可能にします。この強力な概念は、統計学における主成分分析（PCA）によるデータ次元削減、量子力学における系のエネルギー状態の記述、Googleのページランクアルゴリズムなど、理工学の幅広い分野で不可欠なツールとなっています。

本講義では、まずこの基本概念を正確に理解し、計算手法をマスターすることを目指します。

スライド こちら

2. 固有値・固有ベクトルの定義と幾何学的意味

2.1 定義

定義：固有値と固有ベクトル $n \times n$ の正方行列 $A$ と、ゼロベクトルでないベクトル $\mathbf{v} \in \mathbb{C}^n$、およびスカラー $\lambda \in \mathbb{C}$ に対して、 $$ A\mathbf{v} = \lambda \mathbf{v} \quad (\mathbf{v} \neq \mathbf{0})$$ が成り立つとき、スカラー $\lambda$ を行列 $A$ の固有値、ベクトル $\mathbf{v}$ をその固有値 $\lambda$ に属する固有ベクトルと呼びます。

【注釈】 * なぜ $\mathbf{v} \neq \mathbf{0}$ なのか？もし $\mathbf{v} = \mathbf{0}$ を許すと、$A\mathbf{0} = \lambda \mathbf{0}$ はどんな $\lambda$ に対しても $\mathbf{0} = \mathbf{0}$ となり成立してしまい、固有値の概念が無意味になるためです。 * ここでは一般性を考慮し、ベクトルと固有値が複素数（$\mathbb{C}$）の範囲で存在する場合を考えていますが、多くの応用では実数（$\mathbb{R}$）の範囲で扱います。

2.2 幾何学的解釈

固有値・固有ベクトルの関係式 $A\mathbf{v} = \lambda \mathbf{v}$ は、線形変換の幾何学的な性質を端的に表しています。 * 固有ベクトル $\mathbf{v}$: 行列 $A$ によって線形変換されても、その方向が変わらない特別なベクトル。 * 固有値 $\lambda$: 固有ベクトル $\mathbf{v}$ が、変換によってその方向にどれだけ伸縮されるかを示す倍率。 * $\lambda > 1$ ならば、同じ向きに伸びる。 * $0 < \lambda < 1$ ならば、同じ向きに縮む。 * $\lambda < 0$ ならば、逆向きに伸縮する。 * $\lambda = 1$ ならば、大きさも方向も変わらない（不動点）。 * $\lambda = 0$ ならば、ベクトルは原点 $\mathbf{0}$ に写像される。

例えば、回転行列は、回転軸上のベクトルを除き、すべてのベクトルの方向を変えてしまいます。そのため、実数の範囲では固有ベクトルを持たない場合があります（ただし、複素数の範囲では固有値を持ちます）。

3. 固有値・固有ベクトルの計算

3.1 特性方程式の導出

固有値と固有ベクトルを求めるための鍵は、定義式を変形することから始まります。

\[A\mathbf{v} = \lambda \mathbf{v}$$ $$A\mathbf{v} - \lambda \mathbf{v} = \mathbf{0}$$ $$A\mathbf{v} - \lambda I \mathbf{v} = \mathbf{0}$$ $$(A - \lambda I) \mathbf{v} = \mathbf{0}\]

ここで $I$ は $n \times n$ の単位行列です。

この式 $(A - \lambda I) \mathbf{v} = \mathbf{0}$ は、未知数 $\mathbf{v}$ に関する斉次連立一次方程式です。私たちは、この方程式の非自明解（$\mathbf{v} \neq \mathbf{0}$ となる解）を探しています。

線形代数学の基本定理より、斉次連立一次方程式が非自明解を持つための必要十分条件は、その係数行列が正則でない（逆行列を持たない）ことです。

行列が正則でないことと、その行列式がゼロであることは同値です。したがって、

\[\det(A - \lambda I) = 0\]

が成立しなければなりません。この方程式を、行列 $A$ の特性方程式（または固有方程式）と呼びます。

左辺の $\det(A - \lambda I)$ は、 $\lambda$ についての $n$ 次多項式となり、これを固有多項式 $p_A(\lambda)$ と呼びます。代数学の基本定理により、この $n$ 次方程式は（重複を込めて）$n$ 個の複素数解を持ちます。これらの解こそが、行列 $A$ の固有値に他なりません。

3.2 計算の手順

上記より、計算手順は以下のようになります。

固有値を求める
1. 行列 $A$ から固有多項式 $p_A(\lambda) = \det(A - \lambda I)$ を計算する。
2. 特性方程式 $\det(A - \lambda I) = 0$ を解き、固有値 $\lambda_1, \lambda_2, \dots, \lambda_n$ を得る。
固有ベクトルを求める
1. 得られた各固有値 $\lambda_i$ に対して、斉次連立一次方程式 $(A - \lambda_i I) \mathbf{v} = \mathbf{0}$ を立てる。
2. この方程式を解き、非自明解 $\mathbf{v}$ を求める。この解が $\lambda_i$ に属する固有ベクトルである。

【重要】 * 固有ベクトルは一意に定まりません。ある $\mathbf{v}$ が固有ベクトルならば、その任意のスカラー倍 $c\mathbf{v}$ ($c \neq 0$) も同じ固有値に属する固有ベクトルです。重要なのはその方向です。

3.3 計算例

行列 $A = \begin{pmatrix} 4 & -2 \\ 1 & 1 \end{pmatrix}$ の固有値と固有ベクトルを求めます。

Step 1: 固有値を求める

まず、特性方程式を立てます。 $\(\det(A - \lambda I) = \det \begin{pmatrix} 4-\lambda & -2 \\ 1 & 1-\lambda \end{pmatrix} = 0$\) $\((4-\lambda)(1-\lambda) - (-2)(1) = 0$\) $\(\lambda^2 - 5\lambda + 4 + 2 = 0$\) $\(\lambda^2 - 5\lambda + 6 = 0$\) $\((\lambda - 2)(\lambda - 3) = 0$\) よって、固有値は $\lambda_1 = 2, \lambda_2 = 3$ です。

Step 2: 各固有値に対する固有ベクトルを求める

(i) $\lambda_1 = 2$ の場合

方程式 $(A - 2I)\mathbf{v} = \mathbf{0}$ を解きます。 $\((A - 2I) = \begin{pmatrix} 4-2 & -2 \\ 1 & 1-2 \end{pmatrix} = \begin{pmatrix} 2 & -2 \\ 1 & -1 \end{pmatrix}$\) よって、方程式は $\(\begin{pmatrix} 2 & -2 \\ 1 & -1 \end{pmatrix} \begin{pmatrix} v_1 \\ v_2 \end{pmatrix} = \begin{pmatrix} 0 \\ 0 \end{pmatrix}$\) これは $2v_1 - 2v_2 = 0$（すなわち $v_1 = v_2$）という関係式に帰着します。 $v_1 = c$ ($c$ は任意定数) とおくと、$v_2=c$。したがって、固有ベクトルは $\(\mathbf{v}_1 = c \begin{pmatrix} 1 \\ 1 \end{pmatrix} \quad (c \neq 0)$\) 例えば $c=1$ として、代表的な固有ベクトルは $\begin{pmatrix} 1 \\ 1 \end{pmatrix}$ です。

(ii) $\lambda_2 = 3$ の場合

方程式 $(A - 3I)\mathbf{v} = \mathbf{0}$ を解きます。 $\((A - 3I) = \begin{pmatrix} 4-3 & -2 \\ 1 & 1-3 \end{pmatrix} = \begin{pmatrix} 1 & -2 \\ 1 & -2 \end{pmatrix}$\) よって、方程式は $v_1 - 2v_2 = 0$（すなわち $v_1 = 2v_2$）となります。 $v_2 = d$ ($d$ は任意定数) とおくと、$v_1=2d$。したがって、固有ベクトルは $\(\mathbf{v}_2 = d \begin{pmatrix} 2 \\ 1 \end{pmatrix} \quad (d \neq 0)$\) 例えば $d=1$ として、代表的な固有ベクトルは $\begin{pmatrix} 2 \\ 1 \end{pmatrix}$ です。

3.4 計算例（3次行列）

より実践的な例として、3次行列の固有値と固有ベクトルを求めてみましょう。

次の行列 $A$ を考えます。 $\(A = \begin{pmatrix} 0 & 0 & -2 \\ 1 & 2 & 1 \\ 1 & 0 & 3 \end{pmatrix}$\)

Step 1: 固有値を求める

特性方程式 $\det(A - \lambda I) = 0$ を立てます。 $\(\det \begin{pmatrix} -\lambda & 0 & -2 \\ 1 & 2-\lambda & 1 \\ 1 & 0 & 3-\lambda \end{pmatrix} = 0$\)

3次の行列式を計算します。ここでは第2列で余因子展開を行うのが最も簡単です。 $\((2-\lambda) \det \begin{pmatrix} -\lambda & -2 \\ 1 & 3-\lambda \end{pmatrix} = 0$\) $\((2-\lambda) \left[ (-\lambda)(3-\lambda) - (-2)(1) \right] = 0$\) $\((2-\lambda) (\lambda^2 - 3\lambda + 2) = 0$\)

括弧内の2次式を因数分解します。 $\((2-\lambda) (\lambda - 1) (\lambda - 2) = 0$\) $\(-(\lambda - 1) (\lambda - 2)^2 = 0$\)

よって、固有値は $\lambda_1 = 1$（代数的重複度 1）、$\lambda_2 = 2$（代数的重複度 2）となります。

Step 2: 各固有値に対する固有ベクトルを求める

(i) $\lambda_1 = 1$ の場合

斉次連立一次方程式 $(A - 1I)\mathbf{v} = \mathbf{0}$ を解きます。 $\((A - I)\mathbf{v} = \begin{pmatrix} -1 & 0 & -2 \\ 1 & 1 & 1 \\ 1 & 0 & 2 \end{pmatrix} \begin{pmatrix} v_1 \\ v_2 \\ v_3 \end{pmatrix} = \begin{pmatrix} 0 \\ 0 \\ 0 \end{pmatrix}$\)

この行列を簡約化（行基本変形）します。 $\(\begin{pmatrix} -1 & 0 & -2 \\ 1 & 1 & 1 \\ 1 & 0 & 2 \end{pmatrix} \rightarrow \begin{pmatrix} 1 & 0 & 2 \\ 0 & 1 & -1 \\ 0 & 0 & 0 \end{pmatrix}$\) これにより、連立方程式は以下と同値になります。 $\(v_1 + 2v_3 = 0 \implies v_1 = -2v_3$\) $\(v_2 - v_3 = 0 \implies v_2 = v_3$\)

$v_3 = c$ ($c$ は任意の非零定数) とおくと、固有ベクトルは次のように書けます。 $\(\mathbf{v}_1 = c \begin{pmatrix} -2 \\ 1 \\ 1 \end{pmatrix}$\) 固有空間 $E_1$ は $\text{span}\left\{ \begin{pmatrix} -2 \\ 1 \\ 1 \end{pmatrix} \right\}$ であり、幾何的重複度は1です。

(ii) $\lambda_2 = 2$ の場合

斉次連立一次方程式 $(A - 2I)\mathbf{v} = \mathbf{0}$ を解きます。 $\((A - 2I)\mathbf{v} = \begin{pmatrix} -2 & 0 & -2 \\ 1 & 0 & 1 \\ 1 & 0 & 1 \end{pmatrix} \begin{pmatrix} v_1 \\ v_2 \\ v_3 \end{pmatrix} = \begin{pmatrix} 0 \\ 0 \\ 0 \end{pmatrix}$\)

この行列を簡約化します。 $\(\begin{pmatrix} -2 & 0 & -2 \\ 1 & 0 & 1 \\ 1 & 0 & 1 \end{pmatrix} \rightarrow \begin{pmatrix} 1 & 0 & 1 \\ 0 & 0 & 0 \\ 0 & 0 & 0 \end{pmatrix}$\) これにより、方程式は $v_1 + v_3 = 0$、すなわち $v_1 = -v_3$ のみとなります。 $v_2$ に関する制約はないため、$v_2$ は任意の値を取ることができます。

ここで、パラメータを2つ使って解を表現します。$v_3 = c_1$、$v_2 = c_2$ とおくと、$v_1 = -c_1$ となります。 $\(\mathbf{v} = \begin{pmatrix} -c_1 \\ c_2 \\ c_1 \end{pmatrix} = c_1 \begin{pmatrix} -1 \\ 0 \\ 1 \end{pmatrix} + c_2 \begin{pmatrix} 0 \\ 1 \\ 0 \end{pmatrix}$\)

これは、固有空間 $E_2$ が2つの線形独立なベクトルで張られていることを意味します。 $\(E_2 = \text{span}\left\{ \begin{pmatrix} -1 \\ 0 \\ 1 \end{pmatrix}, \begin{pmatrix} 0 \\ 1 \\ 0 \end{pmatrix} \right\}$\) したがって、固有値 $\lambda=2$ の幾何的重複度は2です。