기본 콘텐츠로 건너뛰기

[seaborn] 변수들의 관계 시각화(산점도와 선그래프)

[Linear Algebra] 스펙트럴 분해(Spectral decomposition)

스펙트럴 분해(Spectral decomposition)

행렬 A의 고유값 집합을 A의스펙트럼(spectrum)이라고 합니다. 대칭행렬의 스펙트럼은 다음과 같은 특징이 있습니다.

대칭행렬의 스펙트럼

n×n 차원의 대칭행렬 A에서

  • A는 n개의 서로다른 고유값을 가집니다.
  • 각 고유값 λ과 그것의 배수는 같은 효과를 나타냅니다.
    • 즉, 고유값의 배수를 적용할 경우 고유벡터의 길이만 변할 뿐 방향은 바뀌지 않습니다.
  • 다른 고유값들에 대응하는 고유벡터들은 직교관계에 있습니다.
  • A는 직교적으로 대각화가 가능합니다.

고유값 분해 방법으로 대칭행렬 A는 고유값을 대각 원소로 하는 대각행렬(D)과 고유벡터들로 구성된 고유 행렬(U)을 사용하여 식 1과 같이 분해할 수 있습니다. 이와 같이 대칭행렬의 고유값분해를 스펙트럴분해(spectral decomposition)라고 합니다.

\begin{align}A & = UDU^{-1} = UDU^T\\ \tag{식 1}& U:\;\text{고유벡터}\\ & D:\;\text{고유값을 대각요소로하는 대각행렬}\end{align}

예 1)

대칭행렬 A에 대해 식 1을 확인해 봅니다.

A=np.array([[7, 2],[2,4]])
print(A)
[[7 2]
 [2 4]]
eig_val=solve(det(cheM), l)
eig_val
d, U=la.eig(A) 
D=np.diag(d)
print(D)
[[8. 0.]
 [0. 3.]]
print(U.round(3))
[[ 0.894 -0.447]
 [ 0.447  0.894]]

다음 결과와 같이 행렬 A의 고유행렬에 대한 정규직교적 특징을 만족합니다.

np.allclose(U.T, la.inv(U))
True

결과적으로 위 식과 같이 행렬 A의 고유 분해가 이루어집니다.

np.allclose(A, U@D@la.inv(U))
True

예 2)

다음 행렬 A의스펙트럴 분해를 결정합니다.

$$A=\begin{bmatrix}6& -2& -1\\-2& 6& -1\\-1& -1& 5 \end{bmatrix}$$

대칭행렬 A는 다음 결과와 같이 가역적입니다.

A=np.array([[6, -2, -1],[-2, 6, -1],[-1, -1, 5]])
la.det(A).round(3)
144.0

A는 가역적 대칭행렬로서 고유값의 수와 A의 열차원이 같으므로 고유벡터들은 정규직교관계를 보입니다.

d,U=la.eig(A)
D=np.diag(d)
print(D)
[[3. 0. 0.]
 [0. 8. 0.]
 [0. 0. 6.]]
np.allclose(U.T, la.inv(U))
True

그러므로 다음과 같이 스팩트럴 분해가 성립합니다.

np.allclose(A, U@D@la.inv(U))
True

행렬 A의 스펙트럼 분해는 다음의 고유벡터와 UT = U-1를 적용하여 식 2와 같이 나타낼 수 있습니다.

print(U.round(2))
[[ 0.58  0.71 -0.41]
 [ 0.58 -0.71 -0.41]
 [ 0.58  0.    0.82]]

\begin{align}\tag{식 2}&\begin{bmatrix}6& -2& -1\\-2& 6& -1\\-1& -1& 5 \end{bmatrix}\\ &=\begin{bmatrix}0.58& 0.71& -0.41\\0.58& -0.71& -0.41\\0.58& 0.& 0.82\end{bmatrix} \begin{bmatrix}3.& 0.& 0.\\0. & 8.& 0.\\0. & 0. & 6. \end{bmatrix} \begin{bmatrix}0.58& 0.58& 0.58\\ 071& -0.71& 0.0 \\ -0.41& -0.41& 0.82 \end{bmatrix}\end{align}

댓글

이 블로그의 인기 게시물

[Linear Algebra] 유사변환(Similarity transformation)

유사변환(Similarity transformation) n×n 차원의 정방 행렬 A, B 그리고 가역 행렬 P 사이에 식 1의 관계가 성립하면 행렬 A와 B는 유사행렬(similarity matrix)이 되며 행렬 A를 가역행렬 P와 B로 분해하는 것을 유사 변환(similarity transformation) 이라고 합니다. $$\tag{1} A = PBP^{-1} \Leftrightarrow P^{-1}AP = B $$ 식 2는 식 1의 양변에 B의 고유값을 고려한 것입니다. \begin{align}\tag{식 2} B - \lambda I &= P^{-1}AP – \lambda P^{-1}P\\ &= P^{-1}(AP – \lambda P)\\ &= P^{-1}(A - \lambda I)P \end{align} 식 2의 행렬식은 식 3과 같이 정리됩니다. \begin{align} &\begin{aligned}\textsf{det}(B - \lambda I ) & = \textsf{det}(P^{-1}(AP – \lambda P))\\ &= \textsf{det}(P^{-1}) \textsf{det}((A – \lambda I)) \textsf{det}(P)\\ &= \textsf{det}(P^{-1}) \textsf{det}(P) \textsf{det}((A – \lambda I))\\ &= \textsf{det}(A – \lambda I)\end{aligned}\\ &\begin{aligned}\because \; \textsf{det}(P^{-1}) \textsf{det}(P) &= \textsf{det}(P^{-1}P)\\ &= \textsf{det}(I)\end{aligned}\end{align} 유사행렬의 특성 유사행렬인 두 정방행렬 A와 B는 'A ~ B' 와 같

[matplotlib] 히스토그램(Histogram)

히스토그램(Histogram) 히스토그램은 확률분포의 그래픽적인 표현이며 막대그래프의 종류입니다. 이 그래프가 확률분포와 관계가 있으므로 통계적 요소를 나타내기 위해 많이 사용됩니다. plt.hist(X, bins=10)함수를 사용합니다. x=np.random.randn(1000) plt.hist(x, 10) plt.show() 위 그래프의 y축은 각 구간에 해당하는 갯수이다. 빈도수 대신 확률밀도를 나타내기 위해서는 위 함수의 매개변수 normed=True로 조정하여 나타낼 수 있다. 또한 매개변수 bins의 인수를 숫자로 전달할 수 있지만 리스트 객체로 지정할 수 있다. 막대그래프의 경우와 마찬가지로 각 막대의 폭은 매개변수 width에 의해 조정된다. y=np.linspace(min(x)-1, max(x)+1, 10) y array([-4.48810153, -3.54351935, -2.59893717, -1.65435499, -0.70977282, 0.23480936, 1.17939154, 2.12397372, 3.0685559 , 4.01313807]) plt.hist(x, y, normed=True) plt.show()

R 미분과 적분

내용 expression 미분 2차 미분 mosaic를 사용한 미분 적분 미분과 적분 R에서의 미분과 적분 함수는 expression()함수에 의해 생성된 표현식을 대상으로 합니다. expression expression(문자, 또는 식) 이 표현식의 평가는 eval() 함수에 의해 실행됩니다. > ex1<-expression(1+0:9) > ex1 expression(1 + 0:9) > eval(ex1) [1] 1 2 3 4 5 6 7 8 9 10 > ex2<-expression(u, 2, u+0:9) > ex2 expression(u, 2, u + 0:9) > ex2[1] expression(u) > ex2[2] expression(2) > ex2[3] expression(u + 0:9) > u<-0.9 > eval(ex2[3]) [1] 0.9 1.9 2.9 3.9 4.9 5.9 6.9 7.9 8.9 9.9 미분 D(표현식, 미분 변수) 함수로 미분을 실행합니다. 이 함수의 표현식은 expression() 함수로 생성된 객체이며 미분 변수는 다음 식의 분모의 변수를 의미합니다. $$\frac{d}{d \text{변수}}\text{표현식}$$ 이 함수는 어떤 함수의 미분의 결과를 표현식으로 반환합니다. > D(expression(2*x^3), "x") 2 * (3 * x^2) > eq<-expression(log(x)) > eq expression(log(x)) > D(eq, "x") 1/x > eq2<-expression(a/(1+b*exp(-d*x))); eq2 expression(a/(1 + b * exp(-d * x))) > D(eq2, "x") a * (b * (exp(-d * x) * d))/(1 + b