유사변환과 대각화

내용

• 유사변환
  • 유사행렬의 특성
• 대각화(Diagonalization)

유사변환(Similarity transformation)

유사변환

n×n 차원의 정방 행렬 A, B 그리고 가역 행렬 P 사이에 식 1의 관계가 성립하면 행렬 A와 B는 유사하다고 하며 이 변환을 유사 변환(similarity transformation)이라고 합니다.

$$\begin{equation}\tag{1} A = PBP^{-1} \Leftrightarrow P^{-1}AP = B \end{equation}$$

식 1의 유사 변환은 다음과 같이 고유값을 적용하여 특성 방정식 형태로 정리할 수 있습니다.

$$\begin{align} B - \lambda I &= P^{-1}AP – \lambda P^{-1}P\\ &= P^{-1}(AP – \lambda P)\\ &= P^{-1}(A - \lambda I)P \end{align}$$

위 식의 행렬식은 다음과 같이 정리됩니다.

$$\begin{align} &\begin{aligned}\textsf{det}(B - \lambda I ) & = \textsf{det}(P^{-1}(AP – \lambda P))\\ &= \textsf{det}(P^{-1}) \textsf{det}((A – \lambda I)) \textsf{det}(P)\\ &= \textsf{det}(P^{-1}) \textsf{det}(P) \textsf{det}((A – \lambda I))\\ &= \textsf{det}(A – \lambda I)\end{aligned}\\ &\begin{aligned}\because \; \textsf{det}(P^{-1}) \textsf{det}(P) &= \textsf{det}(P^{-1}P)\\ &= \textsf{det}(I)\end{aligned}\end{align}$$

결과적으로 유사 변환에 의한 두 행렬은 동일한 특성 방정식과 특성값을 가집니다.

예)
  A와 B가 유사하면 A²과 B²은 유사함을 결정합니다.

$$\begin{align} A &= PBP^{-1}\\ A^2 &= (PBP^{-1})(PBP^{-1})\\ &= PBBP^{-1}\\ &= PB^2P^{-1}\\ \end{align}$$

유사행렬의 특성

유사한 관계에 있는 두 행렬 A와 B는 A~B와 같이 나타내며 다음의 특징을 가집니다.

• rank(A)=rank(B)
• det(A)=det(B)
• 동일한 특성 방정식을 가집니다.
• 동일한 고유값을 가집니다.
• A는 B가 가역적일 때만 가역적입니다.

예)
 다음 두 행렬 A, B는 유사합니까? $$A=\begin{bmatrix}3&-2\\0&-3 \end{bmatrix}, \quad B=\begin{bmatrix}3&1\\13&1 \end{bmatrix}$$

import numpy as np
import numpy.linalg as la
import sympy as sp

A=np.array([[3, -2],[0, -3]])
B=np.array([[3, 1],[13, 1]])
eigValA, eigVecA=la.eig(A)
eigValA

array([ 3., -3.])

eigValB, eigVecB=la.eig(B)
eigValB

array([ 5.74165739, -1.74165739])

두 행렬의 고유값이 같지 않으므로 유사하지 않습니다.

예)
 다음 두 행렬 A, B는 유사합니까? $$A = \begin{bmatrix} 1& -2 \\-1&-2 \end{bmatrix}, \quad B = \begin{bmatrix} 1&-1\\-2&-2 \end{bmatrix}$$

A=np.array([[1, -2], [-1, -2]])
B=np.array([[1, -1],[-2, -2]])
la.matrix_rank(A)==la.matrix_rank(B)

True

la.det(A)==la.det(B)

True

valA, vecA=la.eig(A)
valB, vecB=la.eig(B)
valA == valB

array([ True,  True])

la.det(A-valA[0]*np.eye(2))

7.385576408059756e-17

la.det(B-valB[0]*np.eye(2))

7.385576408059809e-17

위 결과에 의하면 두 행렬은 유사합니다. 두 행렬의 유사 변환을 위한 P는 다음 코드와 같이 sympy 모듈의 symbols()와 solve()함수를 사용하여 생성할 수 있습니다.

a, b, c, d=sp.symbols('a b c d')
P=sp.Matrix([[a,b],[c,d]])
P

$\small\color{navy}{\left[\begin{matrix}a & b\\c & d\end{matrix}\right]}$

inv_P=P.inv()
inv_P

$\small\color{navy}{\left[\begin{matrix}\frac{d}{a d - b c} & - \frac{b}{a d - b c}\\- \frac{c}{a d - b c} & \frac{a}{a d - b c}\end{matrix}\right]}$

sol=sp.solve(sp.Eq(sp.Matrix(A), P*B*inv_P), (a, b, c, d))[0]
sol

(-3*c + 2*d, c, c, d)

P=P.subs({a:sol[0], b:sol[1], c:sol[2], d:sol[3]})
P

$\small\color{navy}{\left[\begin{matrix}- 3 c + 2 d & c\\c & d\end{matrix}\right]}$

위 결과에서 c, d를 1이라고 하면 P는 다음과 같으며 유사 변환이 성립합니다.

P=P.subs({c:1, d:1})
P

$\small\color{navy}{\left[\begin{matrix}-1 & 1\\1 & 1\end{matrix}\right]}$

P*sp.Matrix(B)*P.inv()==sp.Matrix(A)

True

대각화(Diagonalization)

많은 경우 행렬 A의 고유값과 고유 벡터는 행렬의 식 2로 나타나는 유사 변환과 같이 행렬의 분해(factorization)를 위해 적용될 수 있습니다. 식 2는 식 1의 행렬 B를 대각 행렬(diagonal matrix)인 D로 치환한 것 입니다.

$$\begin{equation}\tag{2} A = PDP^{-1} \end{equation}$$

식 2에서 P와 D는 각각 행렬 A의 고유벡터들을 결합한 고유행렬와 각 고유벡터에 대응하는 고유값을 대각원소로 하는 대각행렬입니다.

예를 들어 다음 행렬의 경우 고유값을 대각요소로 하는 D와 각 고유값에 대응하는 고유 벡터들로 구성된 고유 행렬을 P로 하여 사용하면 식 2가 성립합니다.

A=np.array([[3, 1],[1, 3]]);A

array([[3, 1],
           [1, 3]])

d, P=la.eig(A)
D=np.diag(d);D

array([[4., 0.],
           [0., 2.]])

np.around(P, 3)

array([[ 0.707, -0.707],
           [ 0.707,  0.707]])

np.dot(np.dot(P, D), la.inv(P))

array([[3., 1.],
           [1., 3.]])

대각 행렬의 경우는 다음과 같이 계산에 매우 유리합니다. 예를 들어 대각 행렬의 거듭제곱은 그 행렬의 대각 원소의 거듭제곱과 같습니다.

A=np.array([[5,0],[0,5]]); A

array([[5, 0],
           [0, 5]])

np.dot(A,A)

array([[25,  0],
           [ 0, 25]])

결과적으로 대각 행렬의 거듭제곱은 대각 원소의 거듭제곱으로 나타낼 수 있으며 식 3과 같이 일반화하여 나타낼 수 있습니다.

$$\begin{equation}\tag{3} D^k=\begin{bmatrix} a^k&0\\0&b^k \end{bmatrix} \end{equation}$$

이 대각 행렬의 특성을 적용하면 식 2와 같이 분해 가능한 행렬의 거듭제곱을 보다 쉽게 계산할 수 있습니다. 예로 다음 행렬 A는 A=PDP^-1로 분해 가능하므로 그 행렬의 A^k는 식 3을 적용하여 쉽게 진행됩니다.

예)
 행렬 A, P, D에 대해 식 2를 검사해 봅니다.

$$A=\begin{bmatrix}7&2\\-4&1\end{bmatrix}, \quad P=\begin{bmatrix}1&1\\-1&-2\end{bmatrix}, \quad D=\begin{bmatrix}5&0\\0&3\end{bmatrix}$$

A=np.array([[7,2],[-4,1]])
P=np.array([[1,1],[-1, -2]])
D=np.array([[5,0],[0,3]])

A==np.dot(np.dot(P, D), la.inv(P))

array([[ True,  True],
           [ True,  True]])

d, P1=la.eig(A)
np.diag(d)

array([[5., 0.],
           [0., 3.]])

P1

array([[ 0.70710678, -0.4472136 ],
           [-0.70710678,  0.89442719]])

고유벡터는 대응하는 고유값에 대해 간단한 형태의 벡터를 나타내는 것으로 그 방향은 고정되어 있지만 고유벡터의 크기(norm)을 유일하지 않습니다. 그러므로 다음과 같이 위 고유행렬의 0행을 기준으로 나머지 값들의 비로서 나타낼 수 있습니다. 위의 고유값을 사용하여 작성한 대각행렬과 다음의 고유행렬은 예제에서 주어진 D, P와 같습니다.

P1/P1[0,:]

array([[ 1.,  1.],
           [-1., -2.]])

위 관계로부터 다음이 성립됩니다.

$$\begin{align} A^2&= (PDP^{-1})(PDP^{-1})= PD^2P^{-1}\\ A^3 &= (PD^2P^{-1})(PDP^{-1})= PD^3P^{-1}\\ &\qquad \vdots \\ A^k &= PD^kP^{-1} \end{align}$$

배열 객체의 지수승은 linalg.matrix_power() 함수를 사용하여 계산할 수 있습니다.

D3=np.array([[5**3, 0],[0, 3**3]])
np.dot(np.dot(P, D3), la.inv(P))

array([[ 223.,   98.],
           [-196.,  -71.]])

la.matrix_power(A, 3)

array([[ 223,   98],
           [-196,  -71]])

위 관계는 n×n 차원의 정방 행렬 A의 고유값(λ)과 고유벡터(x)를 사용하여 식 4와 같이 일반화하여 나타낼 수 있습니다.

$$\begin{align}\tag{4} &\begin{aligned}Ax &=\lambda x \\&=x \lambda \end{aligned}\\ &A=x \lambda x^{-1} \end{align}$$

식 4에서 고유값은 스칼라 λ은 위 예에서 나타낸 것과 같이 대각행렬로, 모든 고유벡터들의 결합으로 고유행렬을 생성하고 그 고유행렬이 가역행렬이면 식 2가 성립되며 결과적으로 행렬 A는 가역행렬인 고유행렬 P, 대각행렬 D로 분리할 수 있게 됩니다. 즉, 식 2와 같이 유사 변환이 가능하다면 행렬 A는 대각가능(Diagonalizable)하다고 합니다.

n×n 차원의 정방 행렬 A가 n개의 선형독립인 고유벡터를 가진다면 대각화가 가능합니다. n개의 고유벡터가 있다는 것은 n개의 대응하는 고유값이 존재하는 것으로 고유값들은 대각 행렬의 대각 요소가 됩니다.

예)
 행렬 A, P에 대해 식 2를 적용하여 D를 계산해 봅니다.

A=np.array([[17, 7], [-42, -18]]);A

array([[ 17,   7],
           [-42, -18]])

P=np.array([[1, -1], [-3, 2]]); P

array([[ 1, -1],
           [-3,  2]])

inv_P=la.inv(P); inv_P

array([[-2., -1.],
           [-3., -1.]])

D=np.around(np.dot(np.dot(inv_P, A), P), 5);D

array([[-4., -0.],
           [ 0.,  3.]])

위에서 계산한 D는 행렬 A의 고유값으로 구성된 대각 행렬과 같습니다.

val, vec=la.eig(A)
np.diag(val)

array([[ 3.,  0.],
           [ 0., -4.]])

예)
 행렬 A는 대각화가 가능 여부를 결정해 봅니다.

$$A=\begin{bmatrix} -3&-1\\0&-3 \end{bmatrix}$$

A=np.array([[-3, -1],[0, -3]])
d,P=la.eig(A)
D=np.diag(d);D

array([[-3.,  0.],
           [ 0., -3.]])

np.around(la.det(P),3)

0.0

고유 행렬은 비가역행렬이므로 대각화가 가능하지 않습니다.

예)
 다음 행렬 A의 분해시 대각 행렬과 고유 행렬을 계산합니다. 이 고유 행렬의 정규직교성을 조사해 봅니다.

$$A = \begin{bmatrix} -3 & 6\\ 6 & -5 \end{bmatrix}$$

A=np.array([[-3, 6],[6, -5]])
la.det(A)

-21.0

d, P=la.eig(A)
D=np.diag(d)
np.around(D, 3)

array([[  2.083,   0.   ],
           [  0.   , -10.083]])

np.around(P, 3)

array([[ 0.763, -0.646],
           [ 0.646,  0.763]])

다음과 같이 P^T = P^-1가 성립하므로 P는 정규직교 행렬입니다.

P_inv=la.inv(P)
np.around(P_inv, 3)==np.around(P.T, 3)

array([[ True,  True],
           [ True,  True]])

위 예로 부터 식 5가 성립합니다.

$$\begin{align}\tag{5} B &= PDP^{-1}\\ &= PDP^T\\ B^T &= (PDP^T)^T\\ &= (P^T)^TDP^T\\ &= PDP^T\\ &= B \end{align}$$

행렬 B에 대해 다음을 정의할 수 있습니다.

• B = PDP^-1에서 P^T = P^-1이고 D가 대각 행렬이라면 B 는 대칭 행렬입니다.
• 모든 대칭 행렬은 정규적으로 대각화가 가능합니다.

예)
 다음 행렬 A의 분해를 고유 행렬과 대각 행렬을 사용하여 분해할 수 있습니까? 그렇다면 고유 행렬의 정규직교 행렬을 계산해 봅니다.

$$A=\begin{bmatrix} 5&8&-4\\8&5&-4\\-4&-4&-1 \end{bmatrix}$$

행렬 A의 고유값과 고유 행렬은 다음과 같습니다.

A=np.array([[5, 8, -4], [8, 5, -4],[-4,-4,-1]])
d, P=la.eig(A);d

array([-3., 15., -3.])

np.around(P, 3)

array([[-0.745,  0.667,  0.016],
           [ 0.596,  0.667,  0.435],
           [-0.298, -0.333,  0.9  ]])

위 고유값으로부터 다음의 대각 행렬을 생성합니다.

D=np.diag(d);D

array([[-3.,  0.,  0.],
           [ 0., 15.,  0.],
           [ 0.,  0., -3.]])

각 고유값에 대응하는 고유 벡터에 대한 정규직교 벡터는 qr()함수를 사용하여 계산하면 다음과 같습니다.

Q,R=la.qr(P)
np.around(Q, 3)

array([[-0.745, -0.667,  0.   ],
           [ 0.596, -0.667,  0.447],
           [-0.298,  0.333,  0.894]])