기본 콘텐츠로 건너뛰기

[ML] 결정트리(Decision Tree) 모델

[Linear Algebra]행렬 연산(matrix operation)

행렬 연산

행렬의 기본연산은 같은 차원들 사이에서 이루어 집니다. 다음은 같은 차원의 두개 또는 세개 행렬들 사이에서 성립되는 관계를 나타낸 것입니다.

  • A, B, C: 행렬, I: 항등행렬 I, r, s: 스칼라
  • A + B = B + A
  • (A + B) + C = A + (B + C)
  • A + 0 = A
  • r(A + B) = rA + rB
  • (r + s)A = rA + sA
  • r(sA) = (rs)A
  • A(BC) = (AB)C
  • A(B + C) = AB + AC
  • (B + C)A = BA + CA
  • r(AB) = (rA)B = A(rC)
  • IA = AI = A
import numpy as np
import scipy.linalg as LA
 from sympy import *

예 1)

행렬 A,B,C에서의 연산

$$A=\begin{bmatrix}4& 0& 5\\-1& 3& 2\end{bmatrix}\quad B=\begin{bmatrix} 1& 1& 1\\3& 5& 7\end{bmatrix} \quad C=\begin{bmatrix}2& -3\\ 0& 1 \end{bmatrix}$$

A=np.mat("4,0,5;-1,3,2")
B=np.mat("1,1,1; 3,5,7")
C=np.mat("2,-3; 0,1")
print(A+B)
[[5 1 6]
 [2 8 9]]
try:
    A+C
except:
    print("행렬의 사칙연산은 동일한 차원에서 실행됩니다.")
행렬의 사칙연산은 동일한 차원에서 실행됩니다.
print(2*B)
[[ 2  2  2]
 [ 6 10 14]]
print(A-2*B)
[[  2  -2   3]
 [ -7  -7 -12]]

행렬곱(matrix product): 행렬들 사이의 각 벡터의 내적을 계산합니다. 연산은 식 1과 같이 이루어집니다.

$$\tag{식 1}\begin{bmatrix}\color{red}a&\color{red}b &\color{red}c\\\color{blue}d & \color{blue}e& \color{blue}f\end{bmatrix} \begin {bmatrix} \color{red}a& \color{blue}d\\ \color{red}b& \color{blue}e\\ \color{red}c&\color{blue}f \end{bmatrix} =\begin{bmatrix}\color{red}a\color{red}a+\color{red}b\color{red}b+\color{red}c\color{red}c& \color{red}a\color{blue}d+\color{red}b\color{blue}e+\color{red}c\color{blue}f \\ \color{blue}d\color{red}a+ \color{blue}e\color{red}b+\color{blue}f\color{red}c & \color{blue}d\color{blue}d+\color{blue}e\color{blue}e+\color{blue}f\color{blue}f\end{bmatrix}$$

  • 식 2와 같이 앞 행렬의 행과 뒤 행렬의 열 사이에서 연산이 이루어지므로 앞행렬의 열수과 뒤 행렬의 행 수가 일치해야 합니다.
  • 행렬곱의 결과의 차원은 앞행렬의 행수와 뒤 행렬의 열수가 됩니다.
    • ⇒ m$\times$n · n$\times$p = m$\times$p

예 2)

행렬 A, B의 행렬곱

$$A=\begin{bmatrix}2& 3\\ 1& -5 \end{bmatrix} \quad B=\begin{bmatrix} 4& 3& 6\\1& -2& 3\end{bmatrix}$$

A=np.mat("2,3; 1, -5")
B=np.mat("4,3,6; 1, -2, 3")
A.shape, B.shape
((2, 2), (2, 3))
AB=A.dot(B)
print(AB)
[[11  0 21]
 [-1 13 -9]]

행렬곱은 위 코드와 같이 np.dot(a, b) 함수 또는 메소드 a.dot(b)를 적용할 수 있습니다. 또한 연산자인 @을 사용할 수 있습니다.

print(A@B)
[[11  0 21]
 [-1 13 -9]]

행렬곱에서는 교환법칙이 성립되지 않습니다.

예 2)

행렬 A, B의 행렬곱의 교환법칙여부를 확인합니다.

$$A=\begin{bmatrix}5& 1\\ 3& -2 \end{bmatrix} \quad B=\begin{bmatrix} 2& 0\\ 4& 3\end{bmatrix}$$

A=np.mat("5,1; 3,-2")
B=np.mat("2,0; 4, 3")
AB=A@B
print(AB)
[[14  3]
 [-2 -6]]
BA=B@A
print(BA)
[[10  2]
 [29 -2]]
np.array_equal(AB, BA)
False

전치행렬의 특성은 식 2와 같습니다.

\begin{align}(A^T)^T=A\\ \tag{식 2}(A+B)^T=A^T+B^T\\(rA)^T=rA^T\\(AB)^T=B^TA^T\end{align}

예 2의 두 행렬 A, B에 대해 식 2를 확인해 봅니다.

A=np.mat("5,1; 3,-2")
B=np.mat("2,0; 4, 3")
ATT=A.T.T
np.array_equal(A, ATT)
True
np.array_equal((A+B).T, A.T+B.T)
True
np.array_equal((A@B).T, B.T@A.T)
True
np.array_equal((3*A).T, 3*(A.T))
True

댓글

이 블로그의 인기 게시물

[Linear Algebra] 유사변환(Similarity transformation)

유사변환(Similarity transformation) n×n 차원의 정방 행렬 A, B 그리고 가역 행렬 P 사이에 식 1의 관계가 성립하면 행렬 A와 B는 유사행렬(similarity matrix)이 되며 행렬 A를 가역행렬 P와 B로 분해하는 것을 유사 변환(similarity transformation) 이라고 합니다. $$\tag{1} A = PBP^{-1} \Leftrightarrow P^{-1}AP = B $$ 식 2는 식 1의 양변에 B의 고유값을 고려한 것입니다. \begin{align}\tag{식 2} B - \lambda I &= P^{-1}AP – \lambda P^{-1}P\\ &= P^{-1}(AP – \lambda P)\\ &= P^{-1}(A - \lambda I)P \end{align} 식 2의 행렬식은 식 3과 같이 정리됩니다. \begin{align} &\begin{aligned}\textsf{det}(B - \lambda I ) & = \textsf{det}(P^{-1}(AP – \lambda P))\\ &= \textsf{det}(P^{-1}) \textsf{det}((A – \lambda I)) \textsf{det}(P)\\ &= \textsf{det}(P^{-1}) \textsf{det}(P) \textsf{det}((A – \lambda I))\\ &= \textsf{det}(A – \lambda I)\end{aligned}\\ &\begin{aligned}\because \; \textsf{det}(P^{-1}) \textsf{det}(P) &= \textsf{det}(P^{-1}P)\\ &= \textsf{det}(I)\end{aligned}\end{align} 유사행렬의 특성 유사행렬인 두 정방행렬 A와 B는 'A ~ B' 와 같

[matplotlib] 히스토그램(Histogram)

히스토그램(Histogram) 히스토그램은 확률분포의 그래픽적인 표현이며 막대그래프의 종류입니다. 이 그래프가 확률분포와 관계가 있으므로 통계적 요소를 나타내기 위해 많이 사용됩니다. plt.hist(X, bins=10)함수를 사용합니다. x=np.random.randn(1000) plt.hist(x, 10) plt.show() 위 그래프의 y축은 각 구간에 해당하는 갯수이다. 빈도수 대신 확률밀도를 나타내기 위해서는 위 함수의 매개변수 normed=True로 조정하여 나타낼 수 있다. 또한 매개변수 bins의 인수를 숫자로 전달할 수 있지만 리스트 객체로 지정할 수 있다. 막대그래프의 경우와 마찬가지로 각 막대의 폭은 매개변수 width에 의해 조정된다. y=np.linspace(min(x)-1, max(x)+1, 10) y array([-4.48810153, -3.54351935, -2.59893717, -1.65435499, -0.70977282, 0.23480936, 1.17939154, 2.12397372, 3.0685559 , 4.01313807]) plt.hist(x, y, normed=True) plt.show()

R 미분과 적분

내용 expression 미분 2차 미분 mosaic를 사용한 미분 적분 미분과 적분 R에서의 미분과 적분 함수는 expression()함수에 의해 생성된 표현식을 대상으로 합니다. expression expression(문자, 또는 식) 이 표현식의 평가는 eval() 함수에 의해 실행됩니다. > ex1<-expression(1+0:9) > ex1 expression(1 + 0:9) > eval(ex1) [1] 1 2 3 4 5 6 7 8 9 10 > ex2<-expression(u, 2, u+0:9) > ex2 expression(u, 2, u + 0:9) > ex2[1] expression(u) > ex2[2] expression(2) > ex2[3] expression(u + 0:9) > u<-0.9 > eval(ex2[3]) [1] 0.9 1.9 2.9 3.9 4.9 5.9 6.9 7.9 8.9 9.9 미분 D(표현식, 미분 변수) 함수로 미분을 실행합니다. 이 함수의 표현식은 expression() 함수로 생성된 객체이며 미분 변수는 다음 식의 분모의 변수를 의미합니다. $$\frac{d}{d \text{변수}}\text{표현식}$$ 이 함수는 어떤 함수의 미분의 결과를 표현식으로 반환합니다. > D(expression(2*x^3), "x") 2 * (3 * x^2) > eq<-expression(log(x)) > eq expression(log(x)) > D(eq, "x") 1/x > eq2<-expression(a/(1+b*exp(-d*x))); eq2 expression(a/(1 + b * exp(-d * x))) > D(eq2, "x") a * (b * (exp(-d * x) * d))/(1 + b