기본 콘텐츠로 건너뛰기

[ML] 결정트리(Decision Tree) 모델

[Linear Algebra] 행렬식(Determinant)

행렬식(Determinant)

관련된 내용

역행렬이 존재한다는 것은 선형 시스템에서 유일한 해집합이 존재한다는 것을 의미합니다. 즉, 표준 행렬에 대한 역행렬의 존재는 유일한 해집합을 가질 수 있는 필수 조건입니다. 반대로 표준 행렬의 역행렬이 존재하지 않는다면 다양한 해집합들이 존재하거나 해가 존재하지 않는 상태입니다. 역행렬이 존재하지 않은 행렬을 특이 행렬(singular matrix)이라고 합니다.

행렬은 그 행렬로부터 계산할 수 있는 행렬식(determinant)이 0인 경우 역행렬이 존재하지 않는 특성을 가지고 있습니다. 즉, 행렬식은 어떤 행렬에 대해 특이 행렬 여부를 결정할 수 있는 근거가 됩니다.

행렬식은 det(행렬) 또는 |행렬|과 같이 나타냅니다.

2×2 행렬의 행렬식은 식 1과 같이 쉽게 계산이 됩니다.

$$A=\begin{bmatrix}a& b\\c & d \end{bmatrix} \Rightarrow \text{det(A)}=\vert{A}\vert =\vert{ad -bc}\vert$$(식 1)

2×2 이상의 형태를 가진 정방 행렬의 역행렬은 소행렬식과 여인수 방법으로 계산할 수 있습니다. 이 방법은 n×n의 행렬로부터 2×2 차원의 부분 행렬을 추출하고 식 1의 행렬식 계산을 반복하여 전체 행렬의 행렬식을 계산하는 것으로 n의 값이 커질수록 계산은 매우 번거롭습니다. 대신, 모든 정방행렬의 행렬식은 numpy.linalg.det() 함수를 사용하여 계산할 수 있습니다.

A=np.array([[1,1,2], [2,4,-3], [3,6,-5]])
print(A)
[[ 1  1  2]
[ 2  4 -3]
[ 3  6 -5]]
AInv=la.inv(A) 
print(AInv)
[[  2. -17.  11.]
[ -1.  11.  -7.]
[  0.   3.  -2.]]
A_det=la.det(A) 
round(A_det, 3)
-1.0

행렬식의 특징

1. 정방행렬 A와 그 전치행렬 AT의 행렬식은 같습니다(식 2).

det(A) = det(AT)(식 2)
A=np.array([[1,2,3], [-4,4,6], [7,-8,9]]) 
round(la.det(A), 3)==round(la.det(A.T),3)
re
True

2. 정방행렬 A의 한 행 또는 한 열의 모든 요소가 0인 경우 행렬식은 0이 됩니다(식 3).

det(A) = 0(식 3)
A[2,:]=[0,0,0]
print(A)
[[ 1  2  3]
[-4  4  6]
[ 0  0  0]]
la.det(A)
0.0

3. 두 정방행렬 A와 B의 특정한 행이 배수관계이고 나머지 모든 요소들이 같다면 식 4가 성립합니다.

B[r, :] = k × A[r, :] → det(B) = k × det(B)(식 4)
A=np.array([[2, 9, 5], [2, 9, 7], [7, 2, 8]]) 
B=np.array(A, copy=True) 
B[0,:]=2*B[0,:] 
list(map(round, [2*la.det(A), la.det(B)]))
[236, 236]

4. 정방 행렬 A의 두 행이 비례하면 행렬식은 0이 됩니다.

A=np.array([[2, 9, 5], [2, 9, 7], [4, 18, 14]])
print(A)
[[ 2  9  5]
[ 2  9  7]
[ 4 18 14]]
la.det(A)
0.0

5. 정방 행렬 A가 삼각 행렬이라면 행렬식은 주대각원소의 곱과 같습니다.

A=np.array([[1,6, 10], [0, 5, 9], [0,0, 12]])
print(A)
[[ 1  6 10]
[ 0  5  9]
[ 0  0 12]]]
la.det(A).round(3)
60.0
np.prod(np.diag(A))
60

위 코드에서 사용한 np.diag(x) 함수는 행렬 x의 대각요소들을 반환하고 np.prod(x)는 객체 x의 곱을 계산합니다.

6. 정방행렬 A가 가역행렬이 되기 위한 필요충분조건은 식 5와 같습니다.

det(A) ≠ 0(식 5)

7. 동일한 형태의 두 정방행렬 A, B에서 식 6의 관계가 성립합니다.

det(AB) = det(A)·det(B)(식 6)
A=np.random.randint(10, size=(4,4)) 
B=np.random.randint(10, size=(4,4))
round(la.det(np.dot(A,B)), 2) == round(la.det(A)*la.det(B), 2)
True

8. 정방행렬 A가 가역행렬이면 식 7이 성립합니다.

det(A-1) =  1 (식 7)
det(A)
A=np.array([[1,6, 10], [0, 5, 9], [0,0, 12]])
A_inv=la.inv(A)
round(la.det(A_inv), 3)==round(1/la.det(A), 3)
True

9. 행렬식은 행렬에 의해 형성되는 도형의 넓이를 나타냅니다.

A=np.array([[3,0],[2,1]])
print(A)
[[3 0]
 [2 1]]
round(la.det(A),3) 
3.0

그림 1은 위 행렬 A에 의해 생성되는 도형을 나타낸 것으로 그 도형의 면적을 계산하기 위해 그것을 포함하는 정사각형을 설정한 것입니다. 식 8과 같이 계산한 행렬 A에 의해 생성된 면적은 위의 행렬식의 값과 같음을 알 수 있습니다.

□CODE =  □AOBE − △AOC − △DBE ⇒ 9 − 3·2·2 = 3(식 8)
2
그림 1. 행렬 A에 의해 생성되는 도형.
fig, ax=plt.subplots(figsize=(2,2))
ax.plot([0, 0] , [0, 3], alpha=0.7, color="brown")
ax.plot([0, 3] , [0, 0], alpha=0.7, color="brown")
ax.plot([3,3] , [0, 3], alpha=0.7, color="brown")
ax.plot([0, 3] , [3, 3], alpha=0.7, color="brown")
ax.arrow(0,0, 3, 2, head_width=0.07, lw=3, color="g")
ax.arrow(0,0, 0, 1, head_width=0.07,lw=3,  color="g")
ax.arrow(0,1, 3, 2, ls="dotted",  color="g")
ax.arrow(3, 2, 0, 1,  ls="dotted",  color="g")
ax.spines['left'].set_position(("data", 0))
ax.spines['bottom'].set_position(("data", 0))
ax.spines['right'].set_visible(False)
ax.spines['top'].set_visible(False)
ax.set_xticks([1,2,3])
ax.set_yticks([1,2,3])
ax.grid(True)
plt.show()

댓글

이 블로그의 인기 게시물

[Linear Algebra] 유사변환(Similarity transformation)

유사변환(Similarity transformation) n×n 차원의 정방 행렬 A, B 그리고 가역 행렬 P 사이에 식 1의 관계가 성립하면 행렬 A와 B는 유사행렬(similarity matrix)이 되며 행렬 A를 가역행렬 P와 B로 분해하는 것을 유사 변환(similarity transformation) 이라고 합니다. $$\tag{1} A = PBP^{-1} \Leftrightarrow P^{-1}AP = B $$ 식 2는 식 1의 양변에 B의 고유값을 고려한 것입니다. \begin{align}\tag{식 2} B - \lambda I &= P^{-1}AP – \lambda P^{-1}P\\ &= P^{-1}(AP – \lambda P)\\ &= P^{-1}(A - \lambda I)P \end{align} 식 2의 행렬식은 식 3과 같이 정리됩니다. \begin{align} &\begin{aligned}\textsf{det}(B - \lambda I ) & = \textsf{det}(P^{-1}(AP – \lambda P))\\ &= \textsf{det}(P^{-1}) \textsf{det}((A – \lambda I)) \textsf{det}(P)\\ &= \textsf{det}(P^{-1}) \textsf{det}(P) \textsf{det}((A – \lambda I))\\ &= \textsf{det}(A – \lambda I)\end{aligned}\\ &\begin{aligned}\because \; \textsf{det}(P^{-1}) \textsf{det}(P) &= \textsf{det}(P^{-1}P)\\ &= \textsf{det}(I)\end{aligned}\end{align} 유사행렬의 특성 유사행렬인 두 정방행렬 A와 B는 'A ~ B' 와 같

[matplotlib] 히스토그램(Histogram)

히스토그램(Histogram) 히스토그램은 확률분포의 그래픽적인 표현이며 막대그래프의 종류입니다. 이 그래프가 확률분포와 관계가 있으므로 통계적 요소를 나타내기 위해 많이 사용됩니다. plt.hist(X, bins=10)함수를 사용합니다. x=np.random.randn(1000) plt.hist(x, 10) plt.show() 위 그래프의 y축은 각 구간에 해당하는 갯수이다. 빈도수 대신 확률밀도를 나타내기 위해서는 위 함수의 매개변수 normed=True로 조정하여 나타낼 수 있다. 또한 매개변수 bins의 인수를 숫자로 전달할 수 있지만 리스트 객체로 지정할 수 있다. 막대그래프의 경우와 마찬가지로 각 막대의 폭은 매개변수 width에 의해 조정된다. y=np.linspace(min(x)-1, max(x)+1, 10) y array([-4.48810153, -3.54351935, -2.59893717, -1.65435499, -0.70977282, 0.23480936, 1.17939154, 2.12397372, 3.0685559 , 4.01313807]) plt.hist(x, y, normed=True) plt.show()

R 미분과 적분

내용 expression 미분 2차 미분 mosaic를 사용한 미분 적분 미분과 적분 R에서의 미분과 적분 함수는 expression()함수에 의해 생성된 표현식을 대상으로 합니다. expression expression(문자, 또는 식) 이 표현식의 평가는 eval() 함수에 의해 실행됩니다. > ex1<-expression(1+0:9) > ex1 expression(1 + 0:9) > eval(ex1) [1] 1 2 3 4 5 6 7 8 9 10 > ex2<-expression(u, 2, u+0:9) > ex2 expression(u, 2, u + 0:9) > ex2[1] expression(u) > ex2[2] expression(2) > ex2[3] expression(u + 0:9) > u<-0.9 > eval(ex2[3]) [1] 0.9 1.9 2.9 3.9 4.9 5.9 6.9 7.9 8.9 9.9 미분 D(표현식, 미분 변수) 함수로 미분을 실행합니다. 이 함수의 표현식은 expression() 함수로 생성된 객체이며 미분 변수는 다음 식의 분모의 변수를 의미합니다. $$\frac{d}{d \text{변수}}\text{표현식}$$ 이 함수는 어떤 함수의 미분의 결과를 표현식으로 반환합니다. > D(expression(2*x^3), "x") 2 * (3 * x^2) > eq<-expression(log(x)) > eq expression(log(x)) > D(eq, "x") 1/x > eq2<-expression(a/(1+b*exp(-d*x))); eq2 expression(a/(1 + b * exp(-d * x))) > D(eq2, "x") a * (b * (exp(-d * x) * d))/(1 + b