고윳값 분해

A: 2×2행렬, 2개의 egien value, 2개의 eigen vector

$Av_1 = \lambda_1 v_1$, $Av_2 = \lambda_2 v_2$

$A \begin{bmatrix} v_1 & v_2 \end{bmatrix} $ = $\begin{bmatrix} \lambda_1 v_1 & \lambda_2 v_2 \end{bmatrix}$

$=\begin{bmatrix} v_1 & v_2 \end{bmatrix}\begin{bmatrix} \lambda_1 & 0 \\ 0 & \lambda_2\\ \end{bmatrix}$

고유벡터들을 행렬 V라고하고 고유행렬을 Λ라고하면 

$AV = VΛ, A = VΛV^{-1}$

이렇게 decompose하는 것을 고윳값 분해 (Eigendecomposition)라고합니다.

$V^{-1}AV = \Lambda$에서 A를 Λ와같은 diagonal matrix로 만들었다하여, 이때 행렬A를  diagonalizable한 행렬이라하고, 이는 independent 한 eigen vecter가 n×n일때 n개 존재합니다.

Eigendecomposition property

• $A^k = V \Lambda V^{-1}  V \Lambda V^{-1}  V \Lambda V^{-1} ... = V \Lambda^k V^{-1}$
• $A^{-1} = (V \Lambda V^{-1})^{-1} = V \Lambda^{-1} V^{-1}$
• $det(A) = det(V \Lambda V^{-1}) = det(V)det(\Lambda)det(V^{-1}) = \lambda_1 \lambda_2 \lambda_3... = \prod_{i=1}^{n} \lambda_i$
• $tr(A)= tr(V \Lambda V^{-1}) = tr( \Lambda V^{-1} V) = tr(\Lambda) = \lambda_1 + \lambda_2 + \lambda_3+... = \sum_{i=1}^{n} \lambda_i$
• rank-deficient ⇔ $det(A) = 0$ ⇔ 0인 eigen value가 한개이상
• $A^T$의 eigen value = $A$의 eigen value
• A가 orthogonal 이면 $\lambda_i = ±1$
• diagonalizable matrix의 non-zero eigen value의 수 = rank(A)
  cf) $A^k = V \Lambda V^{-1} rank(V \Lambda V^{-1}) = rank(A)$
• symmetric matrix는 diagonalizable이며 $A = QΛQ^{T}$가 됩니다.
  cf) symmetric matrix A에 대해 $A^{T} = V^{-T} \Lambda V^{T}$ A는 symmetric matrix이기때문에 $A = A^{T}$
  $V \Lambda V^{-1}= V^{-T} \Lambda V^{T}$ $V^{-1}=V^{T}$즉 V는 직교행렬이다.
  $A = \begin{bmatrix} q_1 & q_2 & q_3 \end{bmatrix} \begin{bmatrix} \lambda_1 & 0 &0 \\ 0 & \lambda_2 & 0\\ 0 & 0 & \lambda_3 \end{bmatrix}\begin{bmatrix} q_1^{T} \\ q_2^{T} \\ q_3^{T} \\ \end{bmatrix}$
  $= \lambda_{1} q_{1} q_{1}^{T} + \lambda_{2} q_{2} q_{2}^{T} + \lambda_{3} q_{3} q_{3}^{T}$ A라는 행렬을 3개의 rank - 1 행렬로 나눴다고 생각할 수 있다.