기본 콘텐츠로 건너뛰기

라벨이 svd()인 게시물 표시

[matplotlib]quiver()함수

[Linear Algebra] 특이값분해(Singular Value Decomposition)

특이값분해(Singular Value Decomposition) 관련된 내용 특이값 m×n 차원의 행렬 A의 분해는 식 1과 같은 대각 행렬(Σ)와 관련됩니다. $$\tag{식 1}\Sigma=\begin{bmatrix}D& 0\\0 & 0 \end{bmatrix}$$ 식 1에서 D는 A T A의 고유값(≠ 0)을 대각원소로 구성한 대각행렬이고 차원은 r×r(r ≤ Min(m, n))입니다. 또한 Σ의 차원은 행렬 A의 차원과 같습니다. 행렬 A에 대해 A T A의 0이 아닌 고유벡터와 고유값을 각각 v i 와 λ i 라 하고 각 고유벡터가 정규직교관계이면 식 2와 같이 나타낼 수 있습니다. 그러므로 고유벡터에 행렬 A와의 내적 결과인 Av 1 , Av 2 , …, Av r 벡터들은 서로 직교합니다. 이들을 정규화(normalization)한 벡터들을 u 1 , u 2 , ..., u r 은 라고 하면 이 벡터들은 모두 정규 직교 벡터가 됩니다. \begin{align}u_i & =\frac{Av_i}{\Vert{Av_i}\Vert}\\\tag{식 2}& = \frac{Av_i}{\sigma_i}\\ Av_i&=\sigma_i u_i\\ & 1\le i \le r \end{align} 식 2의 AV는 고유값이 0이 되는 모든 부분까지 확장하여 식 3과 같이 나타낼 수 있습니다. \begin{align}AV&=\begin{bmatrix}Av_1&\cdots& Av_r& 0& \cdots& 0 \end{bmatrix}\\&= \begin{bmatrix} \sigma_1 u_1&\cdots& \sigma_r u_r& 0& \cdots& 0 \end{bmatrix}\\ \tag{식 3}& = \begin{bmatrix} u_1&\cdots& u_r& 0& \cdots...