• 역행렬(Inverse matrix)
• 기약행 사다리꼴 형태 (Reduced row echelon form, rref)
  • 확대행렬
  • 기약행사다리꼴 형태의 특성
• 행렬식(Determinant)
  • 행렬식의 특징

역행렬과 행렬식

역행렬(Inverse matrix)

행렬에 대해 행렬곱을 실시할 경우 그 자신을 반환시키는 행렬을 항등 행렬(I)이라 합니다. 항등 행렬은 행과 열의 수가 같은 정방행렬로 np.eye() 함수에 의해 생성할 수 있습니다.

import numpy as np
import numpy.linalg as la
import sympy as sp

np.eye(3)

array([[1., 0., 0.],
           [0., 1., 0.],
           [0., 0., 1.]])

두 행렬이 식 1을 만족한다면 행렬 B는 행렬 A의 역행렬(inverse matrix)이고 A^-1로 나타냅니다.

$$\begin{equation}\tag{1} \text{A}·\text{B} = I \rightarrow \text{B} = \text{A}^{-1} \end{equation}$$

역행렬을 가지는 행렬을 가역행렬(reversible matrix)이라고 하며 np.linalg.inv()함수에 의해 계산할 수 있습니다.

a=np.array([[1,3,-5], [-2,7,8], [4,0,6]]); a

array([[ 1,  3, -5],
           [-2,  7,  8],
           [ 4,  0,  6]])

# a의 역행렬  
a_inv=la.inv(a) 
np.round(a_inv, 2)

array([[ 0.13, -0.06,  0.19],
           [ 0.14,  0.08,  0.01],
           [-0.09,  0.04,  0.04]])

#역행렬과의 행렬곱
re=np.dot(a, a_inv) 
np.around(re,3)

array([[ 1.,  0., -0.],
           [ 0.,  1.,  0.],
           [ 0., -0.,  1.]])

이 역행렬은 다음과 같이 선형 시스템(linear system)인 연립 방정식 해를 계산하기 위해 사용됩니다. 예를 들어 식 2와 같이 연립 방정식의 경우 행렬로 나타낼 수 있습니다.

$$\begin{equation}\tag{2} \begin{matrix} \begin{matrix} x + y + 2z& =9 \\2x + 4y- 3z& = 1\\ 3x + 6y- 5z& = 0 \end{matrix} & \rightarrow & \begin{bmatrix}1&1&2\\2&4&-3\\3&6&-5\end{bmatrix} \begin{bmatrix}x\\y\\z\end{bmatrix} = \begin{bmatrix}9\\1\\0\end{bmatrix} \end{matrix} \end{equation}$$

식 2의 우항은 다음과 같이 분리하여 나타낼 수 있습니다.

$$A=\begin{bmatrix}1&1&2\\2&4&-3\\3&6&-5\end{bmatrix}, \quad b=\begin{bmatrix}x\\y\\z\end{bmatrix}, \quad c=\begin{bmatrix}9\\1\\0\end{bmatrix}$$

그러므로 행렬시스템은 미지수 벡터(b)와 각 미지수에 대응하는 계수 행렬(A)사이의 행렬곱과 그 결과인 상수벡터(c)로 구성되어 있습니다.

계수행렬의 역행렬이 존재한다면 다음 과정에 의해 각 미지수의 해를 계산할 수 있습니다.

1. A·b = c
2. A^-1·A·b = A^-1·c
3. b = A^-1·c

다음 코드는 위에서 서술한 계산 과정에 따라 작성한 것입니다.

A=np.array([[1,1,2], [2,4,-3], [3,6,-5]]) 
c=np.array([[9],[1],[0]]) 
A_inv=la.inv(A) 
re=np.dot(A_inv, c) 
np.around(re,3)

array([[1.],
           [2.],
           [3.]])

계수 행렬이 가역적일 때 위 코드들은 numpy.linalg 모듈의 함수 solve(A, b)으로 대신할 수 있습니다.

la.solve(A, c)

array([[1.],
           [2.],
           [3.]])

위 방정식들의 해는 유일합니다. 즉, 세 개의 식들은 하나의 좌표에서 만납니다. 이러한 상태를 선형 독립(independence)이라고 합니다. 이 결과와는 다르게 방정식들이 여러 좌표에서 교차되는 상태를 선형 종속(dependence)이라고 합니다.(

위에서 소개한 미지수의 해를 결정하는 과정은 계수 행렬이 정방 행렬이고 역행렬이 존재한다는 가정에 의해 진행되며 이 경우의 각 미지수의 해는 하나만이 존재합니다. 그러나 이러한 조건을 만족하지 않는 계수 행렬일 경우 미지수의 수와 방정식의 수가 일치하지 않습니다. 즉, 계수 행렬은 정방 행렬이 아닙니다. 이러한 경우 역행렬은 위의 과정으로 산출될 수 없습니다. 대신에 가우스 조르당 소거법(Gaussian Jordan elimination method)을 사용하여 역행렬을 계산할 수 있습니다. 이 소거법은 사다리꼴 형태의 행렬을 반환합니다.

기약행 사다리꼴 형태 (Reduced row echelon form, rref)

행사다리 꼴(row echelon form, ref)의 일반적인 형태는 식 3과 같습니다. 각 행에서 0이외의 첫번 째 요소가 1인 경우를 기약행사다리꼴(reduced row echelon form\index{reduced row echelon form}) (rref) 이라고 합니다.

$$\begin{equation}\tag{3} \begin{bmatrix} 0&\text{a}&\text{b}&\text{c}&\cdots \\ 0&0&\text{d}&\text{e}&\cdots\\ 0&0&0&\text{f}&\cdots\\ \vdots&\vdots&\vdots&\vdots&\ddots \end{bmatrix} \end{equation}$$

행렬의 행들 사이의 연산을 통해 rreff로 전환될 수 있습니다. 이러한 방법을 가우스-조르당 소거법이라고 합니다.

행렬의 rref는 그것의 고유한 특성을 유지하면서 간단한 형태로 전환된 것이므로 특성들을 추론하는데 매우 유용한 행렬의 형태입니다. 다음 예는 정방 행렬이 아닌 계수 행렬을 가진 연립 방정식의 해를 계산하기 위해 rref를 적용한 것입니다.

$$\begin{align} &x + y = 2\\ &2x + 4y = -3\\ &3x + 6y = 5 \end{align}$$

다음 행렬은 위 선형 시스템을 행렬 형태로 나타낸 것입니다. 행렬 내의 콜론은 계수 행렬과 상수 벡터를 구분하기 위한 것입니다. 이렇게 계수 행렬과 상수 벡터를 결합한 형태를 확대 행렬(augment matrix)라고 합니다.

확대행렬은 계수행렬과 상수벡터를 결합한 행렬의 형태입니다.

$$\begin{bmatrix}1& 1& :& 2\\ 2& 4& :& -3\\ 3& 6& : & 5 \end{bmatrix}$$

확대 행렬에서 콜론의 왼쪽은 가우스-조르당 소거법을 사용하여 항등 행렬로 만들 수 있습니다. 콜론의 오른쪽은 왼쪽의 각 항에 대응되는 값이 됩니다. 결과적으로 그 값들은 각 미지수 x, y의 해가 됩니다. 다음 코드는 확대 행렬의 왼쪽을 항등 행렬로 만드는 계산 과정입니다.

a=np.array([[1,1,2], [2,4,-3], [3,6,5]]); a

array([[ 1,  1,  2],
           [ 2,  4, -3],
           [ 3,  6,  5]])

a[1,:]=a[1,:]-2*a[0,:]; a

array([[ 1,  1,  2],
           [ 0,  2, -7],
           [ 3,  6,  5]])

a[2,:]=a[2,:]-3*a[0,:] 
a[1,:]=a[1,:]/2 
a[0,:]=a[0,:]-a[1,:] 
a[2,:]=a[2,:]-3*a[1,:] 
a[2,:]=a[2,:]/8
a

array([[ 1,  0,  5],
           [ 0,  1, -3],
           [ 0,  0,  1]])

그림 1은 위 세 개의 식을 그래프화한 것으로 모두 교차하는 점은 없습니다. 즉, 파란색과 붉은색의 식은 평행한 직선으로 교차점이 없습니다. 이 결과는 식의 수와 변수의 수가 일치하지 않은 경우로 정방 행렬을 생성할 수 없는 경우 유일한 해가 존재하지 않는다는 것을 나타냅니다.

import matplotlib.pyplot as plt

x=np.linspace(-10, 10, 100)
y1=2-x
y2=(-3-2*x)/4
y3=(5-3*x)/6
plt.figure(dpi=100)
plt.plot(x, y1, label="x+y=2")
plt.plot(x, y2, label="2x+4y=-3")
plt.plot(x, y3, label="3x+6y=5")
plt.legend(loc="best")
plt.xlabel("x", weight="bold")
plt.ylabel("y", weight="bold")
plt.show()

그림 1. 교차점을 가지지 않는 세 직선.

행렬의 rref를 계산하기 위한 numpy의 함수는 없지만 파이썬 라이브러리인 sympy의 함수 rref()를 사용할 수 있습니다. sympy 모듈 역시 numpy의 배열 객체를 기본형으로 사용하므로 상호 간의 호환이 가능합니다. rref()함수는 rref의 행렬과 0이 아닌 대각 원소가 있는 열의 번호(선도변수의 위치)를 튜플 형태로 반환합니다.

a=sp.Matrix([[1,1,2],[2,4,-3],[3,6,5]]); a

$\color{navy}{\left[\begin{matrix}1 & 1 & 2\\2 & 4 & -3\\3 & 6 & 5\end{matrix}\right]}$

aRref, aCol=a.rref()
aRref

$\color{navy}{\left[\begin{matrix}1 & 0 & 0\\0 & 1 & 0\\0 & 0 & 1\end{matrix}\right]}$

aCol

(0, 1, 2)

식 4와 같이 표현되는 기약행사다리꼴의 행렬은 다음과 같은 규칙이 적용됩니다.

에 $$\begin{equation}\tag{4} \begin{bmatrix} \color{red}{1}&0&0&0& \cdots\\ 0&\color{red}{1}&0&0& \cdots\\ 0&0&\color{red}{1}&0& \cdots\\ \vdots&\vdots&\vdots&\vdots&\ddots \end{bmatrix} \end{equation}$$

기약행사다리꼴 형태의 특성

1. 선도 1(leading 1): 각 행에서 0이후에 나타나는 첫 번째 원소로서 그 값이 1인 경우를 의미

선도 1이 나타난 위치를 피봇 위치피봇 위치(pivot position)이라 합니다.

2. 피봇열(pivot column): 피봇 위치를 포함하는 열 (column)

선도변수(leading variable): 피봇 열에 해당하는 변수

자유변수(free variable): 피봇 열이 아닌 열에 대응하는 변수

3. k 번째 행의 요소들이 모두 0이 아닌 경우, k+1행의 선도 1전에 존재하는 0의 수는 k행에 포함된 0의 수보다 작습니다.

4. 어떤 행의 요소들이 모두 0인 경우 그 직전 행의 모든 요소들이 0은 아닙니다.

5. 선도 1을 포함하는 행의 나머지 요소들은 모두 0입니다.

위 특성들 중 1, 2, 3, 4를 만족하는 형태를 행사다리꼴 형태(row echelon form)이고 이 형태를 통해 5를 만족하는 기약 행 사다리꼴 형태를 생성합니다.

예)
  다음의 연립 방정식의 해를 기약행사리꼴 형태를 통해 해를 계산해봅니다.

$$\begin{align} &a + b - c + 3d = 0\\ &3a + b - c - d = 0\\ &2a - b - 2c + d = 0 \end{align}$$

a=sp.Matrix([[1,1,-1,3, 0], [3,1,-1, -1, 0], [2,-1,-2, 1, 0]]); a

$\color{navy}{\left[\begin{matrix}1 & 1 & -1 & 3 & 0\\3 & 1 & -1 & -1 & 0\\2 & -1 & -2 & 1 & 0\end{matrix}\right]}$

a.rref()

(Matrix([
     [1, 0, 0,    -2, 0],
     [0, 1, 0,   5/3, 0],
     [0, 0, 1, -10/3, 0]]),
     (0, 1, 2))

위 결과를 정리해 보면 다음과 같습니다.

$$\begin{align} &a-d=0 \rightarrow a=d\\ &b+\frac{5}{3}d=0 \rightarrow a=-\frac{5}{3}d\\ &c-\frac{10}{3}d=0 \rightarrow c=\frac{10}{3}d \end{align}$$

위 결과에 의하면 d 값에 따라 다양한 a, b, c 값들이 존재합니다. 결과에서 선도 변수의 위치 즉, pivot column은 1, 2, 3열(열 인덱스: 0, 1, 2)로서 이 피봇 열(pivot column)에 대응하는 선도 변수는 3개이고 자유 변수는 1개라는 것을 나타냅니다. 또한 선도 변수의 값들은 자유 변수에 의존합니다.

자유변수가 존재하면 다수의 해들이 존재합니다.

행렬식(Determinant)

역행렬이 존재한다는 것은 선형 시스템에서 유일한 해집합이 존재한다는 것을 의미합니다. 즉, 계수 행렬에 대한 역행렬의 존재는 유일한 해집합을 가질 수 있는 필수 조건입니다. 반대로 계수 행렬의 역행렬이 존재하지 않는다면 다양한 해집합들이 존재하거나 해가 존재하지 않는 상태입니다. 역행렬이 존재하지 않은 행렬을 특이 행렬(singular matrix)이라고 합니다.

행렬은 그 행렬로 부터 계산할 수 있는 행렬식(determinant)이 0인 경우 역행렬이 존재하지 않는 특성을 가지고 있습니다. 즉, 행렬식은 어떤 행렬에 대해 특이 행렬 여부를 결정할 수 있는 근거가 됩니다.

행렬식은 det(행렬) 또는 |행렬|과 같이 나타냅니다.

2×2 행렬의 행렬식은 식 5와 같이 쉽게 계산이 됩니다.

$$\begin{equation}\tag{5} A=\begin{bmatrix}a&b\\c&d\end{bmatrix} \rightarrow det(A)=|A|=|ad-bc| \end{equation}$$

2×2 이상의 형태를 가진 행렬의 역행렬은 소행렬식과 여인수방법으로 계산할 수 있습니다. 이 방법은 n×n의 행렬로부터 2×2 부분 행렬을 추출하고 식 5와 같이 행렬식을 계산하는 과정을 반복하여 전체 행렬의 행렬식을 계산하는 것으로 n의 값이 커질수록 계산은 매우 번거롭습니다. 대신, 모든 정방행렬의 행렬식은 numpy.linalg.det() 함수를 사용하여 계산할 수 있습니다.

a=np.array([[1,1,2], [2,4,-3], [3,6,-5]]); a

array([[ 1,  1,  2],
           [ 2,  4, -3],
           [ 3,  6, -5]])

aInv=la.inv(a) 
np.around(aInv, 3) 

array([[  2., -17.,  11.],
           [ -1.,  11.,  -7.],
           [  0.,   3.,  -2.]])

a_det=la.det(a) 
np.round(a_det, 3)

-1.0

행렬식의 특징

1. 정방행렬 A와 그 전치행렬 A^T의 행렬식은 같습니다.

det(A)=det(A^T)

A=np.array([[1,2,3], [-4,4,6], [7,-8,9]]) 
re=np.equal(np.around(la.det(A), 4), np.around(la.det(A.T), 4))
re

True

2. 정방행렬 A의 한 행 또는 열의 모든 요소가 0인 경우 행렬식은 0이 됩니다.

det(A) = 0

A[2,:]=[0,0,0]; A

array([[ 1,  2,  3],
           [-4,  4,  6],
           [ 0,  0,  0]])

la.det(A)

0.0

3. 정방행렬 A와 같지만 특정한 행의 값들이 배수가 되는 정방 행렬 B 사이에 다음 관계가 성립합니다.

B[r, :] = k × A[r, :] → det(B) = k × det(B)

A=np.array([[2, 9, 5], [2, 9, 7], [7, 2, 8]]) 
B=np.array(A, copy=True) 
B[0,:]=2*B[0,:] 
np.around([2*la.det(A), la.det(B)], 4) 

array([236., 236.])

4. 정방 행렬 A의 두 행이 비례하면 행렬식은 0이 됩니다.

A=np.array([[2, 9, 5], [2, 9, 7], [4, 18, 14]]); A

array([[ 2,  9,  5],
           [ 2,  9,  7],
           [ 4, 18, 14]])

la.det(A)

0.0

5. 정방 행렬 A가 삼각 행렬이라면 행렬식은 주대각원소의 곱과 같습니다.

A=np.array([[1,6, 10], [0, 5, 9], [0,0, 12]]); A

array([[ 1,  6, 10],
           [ 0,  5,  9],
           [ 0,  0, 12]])

np.around(la.det(A), 4)

60.0

np.prod(np.diagonal(A))

60

위 코드에서 사용한 np.diagonal(x)함수는 행렬 x의 대각요소들을 반환하고 np.prod(x)는 객체 x의 곱을 계산합니다.

6. 정방행렬 A가 가역행렬이 되기 위한 필요충분조건은 다음과 같습니다.

det(A) ≠ 0

7. 동일한 형태의 두 정방행렬 A, B에서 다음 관계가 성립합니다.

det(AB) = det(A)·det(B)

np.random.seed(1)
A=np.random.randint(10, size=(4,4)) 
B=np.random.randint(10, size=(4,4))
A

array([[5, 8, 9, 5],
           [0, 0, 1, 7],
           [6, 9, 2, 4],
           [5, 2, 4, 2]])

B

array([[4, 7, 7, 9],
           [1, 7, 0, 6],
           [9, 9, 7, 6],
           [9, 1, 0, 1]])

round(la.det(np.dot(A,B)),3)

3517668.0

round(la.det(A)*la.det(B),3)

3517668.0

8. 정방행렬 A가 가역행렬이면 다음이 성립합니다.

$$\text{det}(A^{-1})=\frac{1}{\text{det}(A)}$$

np.around([la.det(la.inv(A)), 1/la.det(A)], 4)

array([-0.0006, -0.0006])

9. 행렬식은 행렬에 의해 형성되는 도형의 넓이를 나타냅니다.

A=np.array([[3,0],[2,1]]); A

array([[3, 0],
           [2, 1]])

round(la.det(A),3) 

3.0

그림 2는 위 행렬 a에 의해 생성되는 도형을 나타낸 것입니다. 그림으로부터, 다음과 같이 행렬 A에 의해 생성되는 부분의 면적을 계산하면 위의 행렬식의 값과 같음을 알 수 있습니다.

$$\square CODE = \square AOBE - △ AOC - △ DBE \rightarrow 9-\frac{3 \cdot 2 \cdot 2}{2}=3$$

그림 2. 행렬 A에 의해 생성되는 도형.