기본 콘텐츠로 건너뛰기

벡터와 행렬에 관련된 그림들

[Linear Algebra] 영공간(Nullspace)

영공간(Null Space)

관련된 내용

선형 결합에서 독립인 경우 이 식의 해는 자명한 해로 유일한 해 집합을, 종속인 경우 1개 이상의 다양한 해집합을 가집니다. 선형종속의 다양한 해집합의 기저벡터들을 영공간(Nullspace)이라 합니다. 즉, 다양한 해집합들 사이에 선형 독립인 결합을 생성할 수 있으며 이 결합의 기저벡터가 영공간이 됩니다. 열공간(Column space)은 모든 선형결합에 포함되는 기저벡터들을 나타냅니다.

m×n 형태의 2차원 행렬 A의 영공간(Nul A)은 선형종속인 동차 선형 시스템(Ax = 0)의 모든 해집합의 기저입니다. 그러므로 해집합으로 생성되는 선형결합은 독립이어야 함을 의미합니다.

영공간은 선형종속인 동차 시스템의 해 집합의 기저입니다.

벡터 u가 행렬 A의 영 공간에 포함 여부를 결정한다는 것은 Ax = 0의 선형종속인 동차 선형 시스템에서 변수 벡터 x를 벡터 u로 치환할 경우 성립하는지를 결정하는 것입니다.

A=np.array([[1,-3,-2],[-5, 9, 1]]); print(A)
[[ 1 -3 -2]
 [-5  9  1]]

행렬 A로 생성되는 동차선형결합이 선형종속임을 확인합니다.

b=np.zeros([2,1])
aug=np.c_[A, b]
Matrix(aug).rref()
(Matrix([
 [1, 0, 2.5, 0],
 [0, 1, 1.5, 0]]),
 (0, 1))

확대행렬의 rref에 자유변수의 존재는 선형종속임을 나타냅니다. 특정벡터 u를 x와 치환할 경우 성립여부를 확인합니다.

u=np.array([5,3,-2]).reshape(-1,1); print(u)
[[ 5]
 [ 3]
 [-2]]
print(np.dot(A, u))
[[0]
 [0]]

위 결과에 의하면 벡터 u는 식 1을 만족하는 해가 됩니다.

u ⊂ Nul A(식 1)

예 1)

다음 표준 행렬 A의 영공간을 계산해봅니다.

$$\begin{bmatrix} -3&6&-1&1&-7\\1&-2&2&3&1\\2&-4&5&8&-4\end{bmatrix}\begin{bmatrix}x_1\\x_2\\x_3\\x_4\\x_5 \end{bmatrix}=\begin{bmatrix} 0\\0\\0\end{bmatrix}$$

위 식을 일반 선형시스템으로 나타내면 식 2과 같습니다.

\begin{align}3x_1 + 6x_2 - x_3 + x_4 - 7x_5&= 0\\ x_1 - 2x_2 + 2x_3 + 3x_4 + x_5& = 0\\ 2x_1 - 4x_2 + 5x_3 + 8x_4 - 4x_5& = 0\end{align}(식 2)
A=np.array([[-3, 6, -1, 1, -7],[1,-2,2,3,-1],[2, -4, 5, 8, -4]])
c=np.zeros([3,1])
Matrix(np.hstack([A,c])).rref()
(Matrix([
 [1, -2.0, 0, -1.0,  3.0, 0],
 [0,    0, 1,  2.0, -2.0, 0],
 [0,    0, 0,    0,    0, 0]]),
 (0, 2))

위 결과는 선도변수 x1와 x3가 나머지 자유변수에 의존함을 나타냅니다. 식 3과 같이 나타낼 수 있습니다.

$$\begin{bmatrix}x_1\\x_2\\x_3\\x_4\\x_5 \end{bmatrix}=\begin{bmatrix} 2x_2+x_4-3x_5\\x_2\\-2x_4+2x_5\\x_4\\x_5\end{bmatrix}=\begin{bmatrix}2&1&-3\\1&0&0\\0&-2&2\\0&1&0\\0&0&1 \end{bmatrix}\begin{bmatrix} x_2\\x_4\\x_5\end{bmatrix}$$ (식 3)

위 각 열벡터들은 모두 A에 대한 선형결합의 해입니다. 즉, 위의 선형결합의 해 집합은 x2, x4, x5의 값에 따라 다양합니다. A의 영공간은의 존재는 위 해집합들로부터 생성되는 선형시스템인 식 3의 최우항이 선형독립임을 의미합니다.

sol=np.array([[2, 1, -3],[1, 0, 0], [0, -2,2],[0,1,0],[0,0,1]])
print(sol)
[[ 2  1 -3]
 [ 1  0  0]
 [ 0 -2  2]
 [ 0  1  0]
 [ 0  0  1]]
Matrix(sol).rref()
(Matrix([
 [1, 0, 0],
 [0, 1, 0],
 [0, 0, 1],
 [0, 0, 0],
 [0, 0, 0]]),
 (0, 1, 2))

위 결과에 의하면 모든 열이 피벗 열이며 자유변수가 없습니다. 그러므로 위 객체 sol은 기저벡터로 구성된 기저행렬이므로 표준행렬 A의 영공간이고 역으로 각 벡터는 영공간의 스판이 됩니다(식 4).

$$\text{Nul A} = \text{Span} \left\{\begin{bmatrix}2\\1\\0\\0\\0 \end{bmatrix}, \;\begin{bmatrix} 1\\0\\-2\\1\\0\end{bmatrix},\;\begin{bmatrix}-3\\0\\2\\0\\0 \end{bmatrix}\right\}$$ (식 4)

영공간은 sympy 라이브러리의 nullspace() 함수를 사용하여 확인할 수 있습니다. 이 함수의 결과는 각 열벡터를 반환합니다. 다음 코드에서는 이 결과를 행렬 형태로 나타내었습니다.

for i in Matrix(A).nullspace():
    print(i)
Matrix([[2], [1], [0], [0], [0]])
Matrix([[1], [0], [-2], [1], [0]])
Matrix([[-3], [0], [2], [0], [1]])

위 결과와 같이 선형종속에서 해집합에서 존재하는 선도변수는 자유변수에 의해 결정됩니다(기약행 사다리꼴 형태 참조). 이 둘 사이의 선형독립관계가 성립하면 자유변수로 구성된 표준행렬은 기저행렬이 됩니다. 결과적으로 자유변수의 수와 기저벡터의 수는 같습니다. 이 수로부터 영공간의 차원을 결정할 수 있습니다.

영공간의 차원

dim Nul = 동차방정식에서 자유변수의 수

댓글

이 블로그의 인기 게시물

[Linear Algebra] 유사변환(Similarity transformation)

유사변환(Similarity transformation) n×n 차원의 정방 행렬 A, B 그리고 가역 행렬 P 사이에 식 1의 관계가 성립하면 행렬 A와 B는 유사행렬(similarity matrix)이 되며 행렬 A를 가역행렬 P와 B로 분해하는 것을 유사 변환(similarity transformation) 이라고 합니다. $$\tag{1} A = PBP^{-1} \Leftrightarrow P^{-1}AP = B $$ 식 2는 식 1의 양변에 B의 고유값을 고려한 것입니다. \begin{align}\tag{식 2} B - \lambda I &= P^{-1}AP – \lambda P^{-1}P\\ &= P^{-1}(AP – \lambda P)\\ &= P^{-1}(A - \lambda I)P \end{align} 식 2의 행렬식은 식 3과 같이 정리됩니다. \begin{align} &\begin{aligned}\textsf{det}(B - \lambda I ) & = \textsf{det}(P^{-1}(AP – \lambda P))\\ &= \textsf{det}(P^{-1}) \textsf{det}((A – \lambda I)) \textsf{det}(P)\\ &= \textsf{det}(P^{-1}) \textsf{det}(P) \textsf{det}((A – \lambda I))\\ &= \textsf{det}(A – \lambda I)\end{aligned}\\ &\begin{aligned}\because \; \textsf{det}(P^{-1}) \textsf{det}(P) &= \textsf{det}(P^{-1}P)\\ &= \textsf{det}(I)\end{aligned}\end{align} 유사행렬의 특성 유사행렬인 두 정방행렬 A와 B는 'A ~ B' 와 같...

[sympy] Sympy객체의 표현을 위한 함수들

Sympy객체의 표현을 위한 함수들 General simplify(x): 식 x(sympy 객체)를 간단히 정리 합니다. import numpy as np from sympy import * x=symbols("x") a=sin(x)**2+cos(x)**2 a $\sin^{2}{\left(x \right)} + \cos^{2}{\left(x \right)}$ simplify(a) 1 simplify(b) $\frac{x^{3} + x^{2} - x - 1}{x^{2} + 2 x + 1}$ simplify(b) x - 1 c=gamma(x)/gamma(x-2) c $\frac{\Gamma\left(x\right)}{\Gamma\left(x - 2\right)}$ simplify(c) $\displaystyle \left(x - 2\right) \left(x - 1\right)$ 위의 예들 중 객체 c의 감마함수(gamma(x))는 확률분포 등 여러 부분에서 사용되는 표현식으로 다음과 같이 정의 됩니다. 감마함수는 음이 아닌 정수를 제외한 모든 수에서 정의됩니다. 식 1과 같이 자연수에서 감마함수는 factorial(!), 부동소수(양의 실수)인 경우 적분을 적용하여 계산합니다. $$\tag{식 1}\Gamma(n) =\begin{cases}(n-1)!& n:\text{자연수}\\\int^\infty_0x^{n-1}e^{-x}\,dx& n:\text{부동소수}\end{cases}$$ x=symbols('x') gamma(x).subs(x,4) $\displaystyle 6$ factorial 계산은 math.factorial() 함수를 사용할 수 있습니다. import math math.factorial(3) 6 a=gamma(x).subs(x,4.5) a.evalf(3) 11.6 simpilfy() 함수의 알고리즘은 식에서 공통사항을 찾아 정리하...

sympy.solvers로 방정식해 구하기

sympy.solvers로 방정식해 구하기 대수 방정식을 해를 계산하기 위해 다음 함수를 사용합니다. sympy.solvers.solve(f, *symbols, **flags) f=0, 즉 동차방정식에 대해 지정한 변수의 해를 계산 f : 식 또는 함수 symbols: 식의 해를 계산하기 위한 변수, 변수가 하나인 경우는 생략가능(자동으로 인식) flags: 계산 또는 결과의 방식을 지정하기 위한 인수들 dict=True: {x:3, y:1}같이 사전형식, 기본값 = False set=True :{(x,3),(y,1)}같이 집합형식, 기본값 = False ratioal=True : 실수를 유리수로 반환, 기본값 = False positive=True: 해들 중에 양수만을 반환, 기본값 = False 예 $x^2=1$의 해를 결정합니다. solve() 함수에 적용하기 위해서는 다음과 같이 식의 한쪽이 0이 되는 형태인 동차식으로 구성되어야 합니다. $$x^2-1=0$$ import numpy as np from sympy import * x = symbols('x') solve(x**2-1, x) [-1, 1] 위 식은 계산 과정은 다음과 같습니다. $$\begin{aligned}x^2-1=0 \rightarrow (x+1)(x-1)=0 \\ x=1 \; \text{or}\; -1\end{aligned}$$ 예 $x^4=1$의 해를 결정합니다. solve() 함수의 인수 set=True를 지정하였으므로 결과는 집합(set)형으로 반환됩니다. eq=x**4-1 solve(eq, set=True) ([x], {(-1,), (-I,), (1,), (I,)}) 위의 경우 I는 복소수입니다.즉 위 결과의 과정은 다음과 같습니다. $$x^4-1=(x^2+1)(x+1)(x-1)=0 \rightarrow x=\pm \sqrt{-1}, \; \pm 1=\pm i,\; \pm1$$ 실수...