院試対策〜線形代数:固有値・固有ベクトル編

  • 用語

    • 固有値問題

       A \boldsymbol{x} = \lambda  \boldsymbol{x}から、 \lambda , \boldsymbol{x}を求める問題。  \lambda固有値、それに対応する  \boldsymbol{x}固有ベクトルという。

    • 不変部分空間

      線型独立なm個のベクトル \boldsymbol{x_1}^{0},\boldsymbol{x_2}^{0}, \cdots \boldsymbol{x_m}^{0}で張られる空間をWとしたとき、 \boldsymbol{x} \in Wの任意のベクトルに対して、 A  \boldsymbol{x} \in W であるとき、WをAによる不変部分空間という。

    • 特性多項式

       \Phi_A (\lambda) = det(\lambda E - A )
      としたとき、 \Phi_A (\lambda) 特性多項式(固有多項式)といい、 \lambda特性根という。
      適当な正則行列Pを用いて  B = P^{-1} A P としたとき、 \Phi_B (\lambda) =  \Phi_A (\lambda)

    • 規格化

      ベクトルのノルムが1になるようにベクトルを定数倍すること。

    • 直交補空間

      W( a)に属する任意のベクトルを \boldsymbol{x}V( a)に属する任意のベクトルを \boldsymbol{y}としたとき、\boldsymbol{x},\boldsymbol{y}には共通する元はなく、内積もゼロであるとき、V( a)をW( a)の直交補空間であるといい、 W^{ \perp }( a)と書く。

    • ユニタリ変換

      ユニタリ行列で表される変換。ユニタリ行列は基底ベクトルのノルムを変化させないベクトルの変換である。

    • 射影演算子

      任意のベクトル\boldsymbol{x}から、あるベクトル\boldsymbol{u}方向の成分を抜き出す線形写像のこと。 P_{\boldsymbol{U}}の正規直交基底を  \boldsymbol{e_1}, \boldsymbol{e_2},  \cdots \boldsymbol{e_n} とすると、

       P_{\boldsymbol{U}} \boldsymbol{x} =  \sum_{j = 1}^{r} \boldsymbol{e_j} (  \boldsymbol{e}_j, \boldsymbol{x} )
      と定義される。
      ベクトル空間 \boldsymbol{V}が固有空間に直和分解され、
       \boldsymbol{V} =  \boldsymbol{W_1} \dot{+} \boldsymbol{W_2} \dot{+}  \cdots  \dot{+}  \boldsymbol{W_m}
      となり、また固有空間 W_iの正規直交基底が  \boldsymbol{e_1}^{ (i) },\boldsymbol{e_2}^{ (i) } \cdots ,\boldsymbol{e_r}^{ (i) }  であるとする。このとき各 W_i への射影演算子は、
       P_i =  \sum_{j = 1}^{r} \boldsymbol{e_j}^{(i)}   \otimes\  \bar{ \boldsymbol{e_j}^{(i)}}^{T}

    • テンソル積(クロネッカー積)

       ( n_1 , n_2 )行列A、 ( m_1 , m_2 )行列Bとすると、
      {}
      $$ A \otimes\ B= \begin{pmatrix} a_{11} B & a_{12} B & \cdots & a_{1n} B \\ a_{21} B & a_{22} B & \cdots & a_{2n} B \\ \vdots & \vdots & \ddots & \vdots \\ a_{n1} B & a_{n2} B & \cdots & a_{nn} B \end{pmatrix}
      $$
      と定義される (m_1 n_1 , m_2 n_2 ) 型行列である。
      $$ \boldsymbol{e_1} = \begin{pmatrix} 1 \\ 0 \\ \vdots \\ 0 \end{pmatrix}
      $$
      への射影演算子 P_1 =  \boldsymbol{e_1}  \otimes\  \bar{ \boldsymbol{e}_1 }^{T}と表せる。

    • スペクトル分解

      ベクトル空間 \boldsymbol{V}における正規変換Aの固有値 a_1,a_2, \cdots ,a_m、対応する部分空間 \boldsymbol{W_1},\boldsymbol{W_2}, \cdots \boldsymbol{W_m}への射影演算子 P_1,P_2, \cdots ,P_mとするとき、

       A = a_1 P_1 +  a_2 P_2 + \cdots  a_m P_m
      と一意に分解できること。

    • 2次形式、エルミート形式

      実変数 x_1, x_2, \cdots , x_n の2次多項式

       \sum_{i,j} a_{ij} x_i x_j \quad  ( a_{ij} = a_{ji} = 実数 )
      2次形式という。2次形式は内積を用いて ( \boldsymbol{x}, A \boldsymbol{x} ) と表せる。また、複素変数 z_1, z_2, \cdots , z_n の2次多項式
       \sum_{i,j} a_{ij} \bar{z_i} z_j \quad  ( a_{ij} = \bar {a_{ji}} )
      エルミート形式という。エルミート形式は内積を用いて ( \boldsymbol{z}, A \boldsymbol{z} ) と表せる。

    • 正定値、半正定値

        \boldsymbol{z} ≠  \boldsymbol{0}である任意のベクトル  \boldsymbol{z}について ( \boldsymbol{z}, A \boldsymbol{z} ) > 0であるものを正定値といい、 ( \boldsymbol{z}, A \boldsymbol{z} ) ≥ 0であるものを半正定値という。

    • 標準形

       ( \boldsymbol{x}, A \boldsymbol{x} ) =  a_1 y_1^{2} +  a_2 y_2^{2} + \cdots  a_n y_n^{2} の形で表されること。
      2次形式を標準形に変換することは、主軸の方向を座標軸に変える座標変換と等価である。

  • 定理

    • 定理1 固有値問題における対角化

       A \boldsymbol{x} = \lambda  \boldsymbol{x}を解くとき、固有ベクトルを並べた行列Pを用いると、 P^{-1} A P は、対角成分に固有値が並んだ対角行列になる。( 定理2を満たす場合のみ)

    • 定理2

      n次正方行列Aについて、適当な正則行列Pを用いて P^{-1} A P が対角形に変換できるための必要十分条件は、Aがn個の線形独立な固有ベクトルをもつこと。
      これらは、
      1) Aがn個の独立な固有ベクトルを持つなら、それはVの基底の1つ。
      2) Vにおける線形変換Aが適当な基底に対して対角形であること(A \boldsymbol{x_i} = a_i  \boldsymbol{x_i}) と、Vが固有空間の直和である(Vが各固有値a_iに対応する固有空間のベクトルの作る空間の和であり、かつ異なる固有値に対応する固有空間に同時に属するベクトルの元は存在しない = Vの任意のベクトルを固有ベクトルの和で表す方法は一意)ことは同値である。
      3) 特性多項式 \Phi_A (\lambda) = \prod_{i =1}^{r} (\lambda - a_i )^{m_i} 因数分解できる。
      このとき、固有値 a_iに対する固有空間をV( a_i)とすると、  m_i = dim V ( a_i)
      直和であることは、V = V( a_1) \dot{+} V( a_2)  \dot{+}  \cdots  \dot{+} V( a_r)
      4)  rank(a_i E - A) = n - m_i が成り立つ。

    • 定理3

      線形変換Aの相異なる固有値 a_iに対する固有ベクトル x_jは線型独立である。
      (線型独立であるが、互いに直交しているわけではない)

    • 定理4

      適当なユニタリ行列PによりAが対角形に変換できるための必要十分条件は、Aが正規行列であることである。

    • 定理5

      W( a)がAの不変部分空間であるとき、 W^{ \perp }( a)は A^{\dagger}の不変部分空間である。
      またAが正規行列であるとき、W( a), W^{ \perp }( a)はともにAの不変部分空間である。

    • 定理6

      正規行列Aの異なる固有値に対応する固有ベクトルは互いに直交する。

    • 定理7

      エルミート行列の固有値は全て実数である。またユニタリ行列の固有値は全て絶対値1の複素数である。

    • 定理8

      ベクトル空間 \boldsymbol{V}の線形演算子 P_{\boldsymbol{U}}が射影演算子であるための必要十分条件は、

       P_{\boldsymbol{U}}^{2} =  P_{\boldsymbol{U}} \quad  P_{\boldsymbol{U}}^{\dagger} =  P_{\boldsymbol{U}}
      である。

    • 定理9

      2次形式(エルミート形式)が任意の \boldsymbol{x}について0にならないための必要十分条件は、実対称行列(エルミート行列)の固有値がすべて正または負であること。