Singular Value Decomposition 수학적 정리

Singular Value Decomposition (SVD)

 

• n X p 매트릭스 X를 위와 같은 요소로 나누는 것이 SVD
  •  어떠한 행렬을 U , D ,V 3개의 값으로 decomposition 할 수 있는 것이 SVD
  •  U : n X p , D : p X p  (정방 행렬), V: p X p(정방 행렬)
• 기본적으로는 SVD를 하지않으면 계산이 복잡하기에 적용 (SVD 적용에 따라 모델의 속도차이가 큼, ex) pca는 속도가 빠르다) -> 곱 연산을 할 때 많은 연산들을 줄여주는 효과가 있음
• 위와 같이 SVD를 통해 임의의 matrix 공분산 구조행렬의 eigen vector, eigen value를 얻을 수 있음
  • X가 centered 되어있다면 , X^T * X 는 X의 공분산 구조

 

SVD와 eigen vector, eigen value 와의 연관성

•