Generalized eigenvalues problem

$\mathbf{S}$가 positive definite 행렬이고, $\mathbf{C}$는 대칭행렬일 때 아래의 일반화된 eigenvalue 문제를 푸는 방법을 알아보자. 
$$\mathbf{S}\mathbf{u}\mathbf{=}\lambda \mathbf{C}\mathbf{u}$$

타원을 피팅하는 문제에서 이런 형식의 고유값 문제에 부딛히게 된다. 이 경우 $\mathbf{S}$는 scattering matrix이고, $\mathbf{C}$는 타원피팅에 걸리는 제한조건때문에 나온다. $\mathbf{S}$가 positive definite이므로  $\mathbf{S}$의 eigenvalues $\{{\sigma }_i>0\}$는 모두 0보다 크고, eigenvector를 이용하면 

$$\mathbf{S}\mathbf{=}\mathbf{R}\mathbf{\Lambda }{\mathbf{R}}^{\mathbf{T}}\mathbf{,}\mathbf{\Lambda }\mathbf{=}\mathbf{\text{diag}}\mathbf{(}{\sigma }_{\mathbf{1}}\mathbf{,}\mathbf{.}\mathbf{.}\mathbf{.}\mathbf{,}{\sigma }_{\mathbf{n}}\mathbf{)}$$

처럼 분해할 수 있다. $\mathbf{R}$은 $\mathbf{S}$의 eigenvector를 열로 가지는 행렬로 orthogonal 행렬이다: ${\mathbf{R}}^{\mathbf{-}\mathbf{1}}\mathbf{=}{\mathbf{R}}^{\mathbf{T}}$.

 

이제 $\mathbf{S}$의 제곱근 행렬을 $\mathbf{Q}\mathbf{,}{\mathbf{Q}}^{\mathbf{2}}\mathbf{=}\mathbf{S}$라면 

$$\mathbf{Q}\mathbf{=}\mathbf{R}{\mathbf{\Lambda }}^{\mathbf{1}\mathbf{/}\mathbf{2}}{\mathbf{R}}^{\mathbf{T}}\mathbf{,}{\mathbf{\Lambda }}^{\mathbf{1}\mathbf{/}\mathbf{2}}\mathbf{=}\mathbf{\text{diag}}\mathbf{(}\sqrt{{\sigma }_{\mathbf{1}}}\mathbf{,}\mathbf{.}\mathbf{.}\mathbf{.}\mathbf{,}\sqrt{{\sigma }_{\mathbf{n}}}\mathbf{)}$$

임을 쉽게 확인할 수 있다. $\mathbf{Q}$을 이용하면 구하려는 고유값 문제는 

$$\mathbf{Q}\mathbf{Q}\mathbf{u}\mathbf{=}\lambda \mathbf{C}\mathbf{u}\to \mathbf{Q}\mathbf{u}\mathbf{=}\lambda {\mathbf{Q}}^{\mathbf{-}\mathbf{1}}\mathbf{C}{\mathbf{Q}}^{\mathbf{-}\mathbf{1}}\mathbf{Q}\mathbf{u}\to \mathbf{v}\mathbf{=}\lambda {\mathbf{Q}}^{\mathbf{-}\mathbf{1}}\mathbf{C}{\mathbf{Q}}^{\mathbf{-}\mathbf{1}}\mathbf{v}$$

이므로 ${\mathbf{Q}}^{\mathbf{-}\mathbf{1}}\mathbf{C}{\mathbf{Q}}^{\mathbf{-}\mathbf{1}}$의 고유값 문제 $(1/\lambda ,\mathbf{Q}\mathbf{u}\mathbf{)}$로 단순화됨을 알 수 있다. $\mathbf{Q}$의 역행렬이 ${\mathbf{Q}}^{\mathbf{-}\mathbf{1}}\mathbf{=}\mathbf{R}{\mathbf{\Lambda }}^{\mathbf{-}\mathbf{1}\mathbf{/}\mathbf{2}}{\mathbf{R}}^{\mathbf{T}}$임을 쉽게 체크할 수 있으므로 직접적으로 역행렬을 계산할 필요가 없어진다.

$${\mathbf{\Lambda }}^{\mathbf{-}\mathbf{1}\mathbf{/}\mathbf{2}}\mathbf{=}\mathbf{\text{diag}}\mathbf{(}\mathbf{1}\mathbf{/}\sqrt{{\sigma }_{\mathbf{1}}}\mathbf{,}\mathbf{.}\mathbf{.}\mathbf{.}\mathbf{,}\mathbf{1}\mathbf{/}\sqrt{{\sigma }_{\mathbf{n}}}\mathbf{)}$$