기본 콘텐츠로 건너뛰기

[ML] 결정트리(Decision Tree) 모델

가역행렬에 대한 정의

가역행렬의 정의

n × n 차원의 정방행렬 A가 가역행렬(invertible matrix)일 경우 다음은 모두 동치입니다.

1. A의 행렬식은 0이 아닙니다. (det A ≠ 0)
numpy.linalg.det() 함수에 의해 계산됩니다.
import numpy as np
import numpy.linalg as la
import sympy as sp
A=np.array([[2,3],[6, 8]]); A
array([[2, 3],
           [6, 8]])
round(la.det(A), 4)
-2.0
2. 역행렬이 존재합니다.
numpy.linalg.inv() 함수에 의해 계산됩니다.
Ainv=la.inv(A); Ainv
array([[-4. ,  1.5],
           [ 3. , -1. ]])
np.dot(A, Ainv)
array([[1., 0.],
           [0., 1.]])
3. 가역행렬 A의 전치행렬 AT 역시 가역행렬입니다.
이 두행렬의 행렬식은 같습니다.
det(A) = det(AT)
AT=A.T; AT
array([[2, 6],
           [3, 8]])
la.inv(AT)
array([[-4. ,  3. ],
           [ 1.5, -1. ]])
round(la.det(AT), 4)==round(la.det(A), 4)
True
round(la.det(AT), 4)
-2.0
4. 행렬방정식 Ax=c에 대해 유일한 해를 가집니다.
식의 해를 계산하기 위해 numpy.linalg.solve()함수를 적용합니다.

식의 c즉 상수항이 다음 코드의 const라면 A가 가역행렬이므로 변수 x의 해를 계산할 수 있습니다.

const=np.array([2,1]).reshape(2,1);const
array([[2],
           [1]])
sol=la.solve(A, const); sol
array([[-6.5],
           [ 5. ]])
5. 선형독립입니다.
행렬방정식 Ax=0이 선형독립이면 A와 0의 확대행렬의 기약행 사다리꼴(rref)로 부터 모든 열이 선도변수 1을 갖습니다. 이것은 유일한 해를 가지는 것으로 자명한 해(trivial solution)을 가집니다.
기약행 사다리꼴(rref)는 sympy객체.rref()메소드에 의해 확인할 수 있습니다.
sp.Matrix(A).rref()
(Matrix([
     [1, 0],
     [0, 1]]),
     (0, 1))
6. m × n의 행렬 A에서 다음이 성립
n = dim Col A = pivot column의 갯수 = rank A
행렬 A의 열공간(column space)은 기약행 사다리꼴에서 선도변수가 존재하는 열입니다.
열공간의 갯수는 dim col A로 표시하며 pivot column의 갯수와 같습니다.
행렬의 열공간은 그 행렬의 기저 벡터(basis vector)이며 그 수를 그 행렬의 급수(rank)라고 합니다.
sympy객체.columnspace()메서드로 확인할 수 있습니다.
columnS=sp.Matrix(A).columnspace();columnS #Col A: A의 열공간
[Matrix([
     [2],
     [6]]),
     Matrix([
     [3],
     [8]])]
len(columnS)
2
la.matrix_rank(A)
2
7. 가역행렬의 영공간(null space)의 차원은 0입니다.
dim Nul A={ }
sympy객체.nullspace()메서드로 확인할 수 있습니다.
nullS=sp.Matrix(A).nullspace(); nullS #null space
[]
8.가역행렬의 모든 열 벡터들은 그 벡터공간의 Span이 됩니다.
Span은 기저벡터들로 구성됩니다.
가역행렬의 모든 열 벡터들은 pivot column이고 열공간이 되므로 기저벡터들이 됩니다.
그 행렬을 구성하는 모든 열벡터들이 Span이 되면 그 행렬은 가역행렬이 됩니다.
9. m × n 차원의 행렬 A가 가역행렬이라면 n개의 특이값을 갖습니다.

특이값은 ATA의 고유값의 제곱근으로 이 결과 행렬의 고유값이 0이 아니라면 그에 대응하는 고유벡터가 기저벡터가 되며 그 수가 A의 열 차원과 같다면 선형독립이며 가역행렬이 됩니다. 다음이 성립됩니다.

벡터의 rank 수 = 0이 아닌 특이값의 수의 개수


  행렬 A의 가역행렬 여부를 결정해봅니다.

A=np.array([[4, 11, 14],[8, 7, -2]]);A
array([[ 4, 11, 14],
           [ 8,  7, -2]])
sp.Matrix(A).rref()#기약행사다리꼴
(Matrix([
     [1, 0, -2],
     [0, 1,  2]]),
     (0, 1))

위 결과에서 pivot column은 첫 번째, 두 번째 열이므로 자유변수가 존재합니다.

sp.Matrix(A).columnspace()
[Matrix([
     [4],
     [8]]),
     Matrix([
     [11],
     [ 7]])]

열공간은 2개입니다.

la.matrix_rank(A)
2

급수 역시 2개 입니다.

dim Col과 rank A가 행렬 A의 열차원(3)과 같지 않습니다. 그러므로 행렬 A는 가역행렬이 아닙니다. 이 결과와 다음 코드에서 0이 아닌 특이값의 수와 같습니다.

d, P=la.eig(np.dot(A.T, A))
np.around(d, 3) #고유값
array([360.,   0.,  90.])
np.around(P, 3)  #고유벡터
array([[-0.333, -0.667, -0.667],
           [-0.667,  0.667, -0.333],
           [-0.667, -0.333,  0.667]])
singleVal=np.sqrt(d)
np.around(singleVal, 3) #ATA의 특이값
array([18.974,  0.   ,  9.487])

댓글

이 블로그의 인기 게시물

[Linear Algebra] 유사변환(Similarity transformation)

유사변환(Similarity transformation) n×n 차원의 정방 행렬 A, B 그리고 가역 행렬 P 사이에 식 1의 관계가 성립하면 행렬 A와 B는 유사행렬(similarity matrix)이 되며 행렬 A를 가역행렬 P와 B로 분해하는 것을 유사 변환(similarity transformation) 이라고 합니다. $$\tag{1} A = PBP^{-1} \Leftrightarrow P^{-1}AP = B $$ 식 2는 식 1의 양변에 B의 고유값을 고려한 것입니다. \begin{align}\tag{식 2} B - \lambda I &= P^{-1}AP – \lambda P^{-1}P\\ &= P^{-1}(AP – \lambda P)\\ &= P^{-1}(A - \lambda I)P \end{align} 식 2의 행렬식은 식 3과 같이 정리됩니다. \begin{align} &\begin{aligned}\textsf{det}(B - \lambda I ) & = \textsf{det}(P^{-1}(AP – \lambda P))\\ &= \textsf{det}(P^{-1}) \textsf{det}((A – \lambda I)) \textsf{det}(P)\\ &= \textsf{det}(P^{-1}) \textsf{det}(P) \textsf{det}((A – \lambda I))\\ &= \textsf{det}(A – \lambda I)\end{aligned}\\ &\begin{aligned}\because \; \textsf{det}(P^{-1}) \textsf{det}(P) &= \textsf{det}(P^{-1}P)\\ &= \textsf{det}(I)\end{aligned}\end{align} 유사행렬의 특성 유사행렬인 두 정방행렬 A와 B는 'A ~ B' 와 같

[matplotlib] 히스토그램(Histogram)

히스토그램(Histogram) 히스토그램은 확률분포의 그래픽적인 표현이며 막대그래프의 종류입니다. 이 그래프가 확률분포와 관계가 있으므로 통계적 요소를 나타내기 위해 많이 사용됩니다. plt.hist(X, bins=10)함수를 사용합니다. x=np.random.randn(1000) plt.hist(x, 10) plt.show() 위 그래프의 y축은 각 구간에 해당하는 갯수이다. 빈도수 대신 확률밀도를 나타내기 위해서는 위 함수의 매개변수 normed=True로 조정하여 나타낼 수 있다. 또한 매개변수 bins의 인수를 숫자로 전달할 수 있지만 리스트 객체로 지정할 수 있다. 막대그래프의 경우와 마찬가지로 각 막대의 폭은 매개변수 width에 의해 조정된다. y=np.linspace(min(x)-1, max(x)+1, 10) y array([-4.48810153, -3.54351935, -2.59893717, -1.65435499, -0.70977282, 0.23480936, 1.17939154, 2.12397372, 3.0685559 , 4.01313807]) plt.hist(x, y, normed=True) plt.show()

R 미분과 적분

내용 expression 미분 2차 미분 mosaic를 사용한 미분 적분 미분과 적분 R에서의 미분과 적분 함수는 expression()함수에 의해 생성된 표현식을 대상으로 합니다. expression expression(문자, 또는 식) 이 표현식의 평가는 eval() 함수에 의해 실행됩니다. > ex1<-expression(1+0:9) > ex1 expression(1 + 0:9) > eval(ex1) [1] 1 2 3 4 5 6 7 8 9 10 > ex2<-expression(u, 2, u+0:9) > ex2 expression(u, 2, u + 0:9) > ex2[1] expression(u) > ex2[2] expression(2) > ex2[3] expression(u + 0:9) > u<-0.9 > eval(ex2[3]) [1] 0.9 1.9 2.9 3.9 4.9 5.9 6.9 7.9 8.9 9.9 미분 D(표현식, 미분 변수) 함수로 미분을 실행합니다. 이 함수의 표현식은 expression() 함수로 생성된 객체이며 미분 변수는 다음 식의 분모의 변수를 의미합니다. $$\frac{d}{d \text{변수}}\text{표현식}$$ 이 함수는 어떤 함수의 미분의 결과를 표현식으로 반환합니다. > D(expression(2*x^3), "x") 2 * (3 * x^2) > eq<-expression(log(x)) > eq expression(log(x)) > D(eq, "x") 1/x > eq2<-expression(a/(1+b*exp(-d*x))); eq2 expression(a/(1 + b * exp(-d * x))) > D(eq2, "x") a * (b * (exp(-d * x) * d))/(1 + b