기본 콘텐츠로 건너뛰기

[ML] 결정트리(Decision Tree) 모델

편미분(Partial differential)

내용

편미분

편미분

다음과 같이 하나 이상의 독립변수가 존재하는 경우의 종속변수는 모든 독립변수들 각각에 영향을 받습니다. 이러한 함수에서 종속변수의 변화는 각 독립변수의 변화에 대한 합으로 나타냅니다. 두 변수에 의한 함수의 경우 식 1과 같이 표현합니다.

$$\begin{equation}\tag{1}y = f(u, v) \end{equation}$$

식 1과 같이 두 독립변수로 구성된 함수의 미분은 각 독립변수에 대한 종속변수의 미분(변화율)으로 구성되며 이러한 미분을 편미분(partial differentiation)이라 합니다. 편미분은 특정한 독립변수에 대해 실행할 경우 다른 독립변수를 상수로 간주하는 방식으로 이루어집니다. 그러므로 식1의 미분은 식 2와 같습니다.

$$\begin{align}\tag{2} dy_v = v \cdot du\\ dy_u = u \cdot dv \end{align}$$

식 2의 각 결과에서 아래첨자는 그 시행에서 상수로 간주되는 변수를 의미합니다. 이러한 편미분은 식 3과 같이 그리스 문자 $\partial$를 사용하여 다음과 같이 나타냅니다.

$$\begin{align}\tag{3} \frac{\partial y}{\partial u}=v& \rightarrow dy_v = \frac{\partial y}{\partial u} \cdot du\\ \frac{\partial y}{\partial v}=u& \rightarrow dy_u = \frac{\partial y}{\partial v} \cdot dv \end{align}$$

함수 y의 전체적인 미분은 각 편미분의 합으로 나타냅니다.(식 4)

$$\begin{align}\tag{4} dy &= \frac{\partial y}{\partial u}du + \frac{\partial y}{\partial v} dv\\ &= vdu + udv \end{align}$$
import numpy as np
import pandas as pd
from sympy import *
import matplotlib.pyplot as plt
u, v= symbols('u, v')
y=u*v
dydu=diff(y, u) #=∂y/∂u
dydu 
v
dydv=diff(y, v) #=∂y/∂v
dydv
u

예)
  w = 2ax2 + 3bxy + 4cy3의 각 독립변수에 대한 편미분계수를 계산해 봅니다.

$$\begin{align} \frac{\partial w}{\partial x}&=4ax+3by\\ \frac{\partial w}{\partial y}&=3bx+12cy^2 \end{align}$$
a, b, c, x, y=symbols("a, b, c, x, y")
w=2*a*x**2+3*b*x*y+4*c*y**3
diff(w, x)
 4 a x + 3 b y
diff(w, y)
$\quad \small \color{navy}{ 3 b x + 12 c y^{2}}$

예)
  z = xy의 x와 y에 대한 편미분계수와 총 미분 dz을 계산해 봅니다.

x, y=symbols("x, y")
z=x**y
dzdx=z.diff(x)
dzdx
$\quad \small \color{navy}{ \frac{x^{y} y}{x}}$
dzdy=z.diff(y)
dzdy
$\quad \small \color{navy}{ x^{y} \log{\left(x \right)}}$

dz은 결과의 합입니다.

dz=dzdx+dzdy
dz
$\quad \small \color{navy}{ x^{y} \log{\left(x \right)} + \frac{x^{y} y}{x}}$

예)
  높이가 h, 밑면의 반지름이 r인 원뿔의 부피 $\displaystyle V = \frac{1}{3} \pi r^2h$입니다. 높이가 고정된 상태에서 반지름의 변화 동안 V의 변화율과 반지름이 고정되고 h가 변하는 동안의 V의 변화율?

이 문제의 각각의 부피 변화율은 다음과 같이 나타낼 수 있습니다.

r, h=symbols("r, h")
V=Rational('1/3')*pi*r**2*h
dVdr=diff(V, r)
dVdr
$\quad \small \color{navy}{ \frac{2 \pi h r}{3}}$
dVdh=diff(V, h)
dVdh
$\quad \small \color{navy}{ \frac{\pi r^{2}}{3}}$

그러므로 원뿔의 부피변화율은 다음과 같이 나타낼수 있습니다.

$$dv = \frac{2}{3} \pi hr⋅dr + \frac{1}{3} πr^2⋅dr$$

결합함수의 편미분

삼각 함수 또는 지수 함수 등과 같이 다른 종류의 함수들 결합으로 이루어진 결합함수의 편미분은 치환 방법을 적용할 수 있습니다. 예를 들어 변수 x와 t의 결합된 형태라고 가정하면 그 편미분은 다음과 같이 치환방법을 적용하여 전개할 수 있습니다.

1단계
$$\begin{align} y &= F(x+at) + f(x-at)\\ w &= x+at\\ v &= x-at \end{align}$$
2단계
$$\begin{align} \frac{\partial y}{\partial x} &= \frac{\partial F(w)}{\partial w} \frac{\partial w}{\partial x}+ \frac{\partial f(v)}{\partial v} \frac{\partial v}{\partial x}\\ &= F^\prime(w)⋅1 + f^\prime(v)⋅1 \end{align}$$
3단계
$$\frac{\partial^2y}{\partial x^2} = F^{\prime\prime}(w) + f^{\prime\prime}(v)$$
4단계
$$\begin{align} \frac{\partial y}{\partial t} &= \frac{\partial F(w)}{\partial w} \frac{\partial w}{\partial t}+ \frac{\partial f(v)}{\partial v} \frac{\partial v}{\partial t}\\ &= F^\prime(w)⋅a + f^\prime(v)⋅a \end{align}$$
5단계
$$\begin{align} \frac{\partial^2y}{\partial t^2} &= F^{\prime\prime}(w)a^2 + f^{\prime\prime}(v)a^2\\ &=a^2\frac{\partial^2y}{\partial x^2}\end{align}$$

편미분에 의한 극대와 극소

여러 개의 독립변수들을 고려하는 점 이외에 편미분 역시 미분과 같은 개념으로 극값을 계산하는 과정 역시 동일합니다. 몇몇의 예제들을 통해 극값을 계산하는 과정을 알아봅니다.

예)
  끈으로 삼각형을 만드는 경우 x, y를 두 부분의 길이라고 합시다. 세 번째 부분의 길이는 30 - (x + y)이고 면적은 다음과 같이 계산됩니다.

$$A = \sqrt{(s - x)(s - y)(s - 30 + x + z)]}$$

s는 둘레의 절반인 15이므로 $A = \sqrt{15P}$라고 하면 다음 식이 성립합니다. 이러한 관계에서 최대 면적을 계산해 봅니다.

$$\begin{align} P &= (15 - x)(15 - y)(x + y - 15)\\ &= xy^2 + x^2y - 15x^2 - 15y^2 - 45xy + 450x + 450y - 3375 \end{align}$$

면적 A는 P에 의존되므로 최대 면적은 P가 극대인 경우에 해당하므로 P의 미분 계수가 0인 지점을 계산하는 것입니다. 이 경우는 두 개의 독립변수가 존재이므로 각 변수의 편미분 계수가 0인 지점을 계산해야 합니다. 즉, 다음을 계산합니다.

$$\frac{\partial P}{\partial x}=0, \quad \frac{\partial P}{\partial y}=0$$
x,y=symbols("x, y")
P=(15-x)*(15-y)*(x+y-15)
dPdx=diff(P, x)
dPdx
$\quad \small \color{navy}{ \left(15 - x\right) \left(15 - y\right) + \left(y - 15\right) \left(x + y - 15\right)}$
dPdy=diff(P, y)
dPdy
$\quad \small \color{navy}{ \left(15 - x\right) \left(15 - y\right) + \left(x - 15\right) \left(x + y - 15\right)}$
sol=solve(Eq(dPdx, dPdy))
sol
[{x: y}, {x: 15 - y}]

위 결과에 의하면 각 편미분 계수가 0이 되는 지점은 x = y 또는 15 - y입니다. 이 값을 원 함수에 대입하여 극값을 계산할 수 있습니다. 그러나 x = 15-y인 경우는 원 식은 0이 되므로 x = y인 경우만을 고려하여 봅니다.

# x = y
P1=P.subs(y, x)
P1
$\quad \small \color{navy}{ \left(15 - x\right)^{2} \left(2 x - 15\right)}$
dP1=diff(P1, x)
dP1
$\quad \small \color{navy}{ 2 \left(15 - x\right)^{2} + \left(2 x - 30\right) \left(2 x - 15\right)}$
dP1_sol=solve(dP1, x)
dP1_sol
[10, 15]
for i in dP1_sol:
    print(f"{i} 에서 이차미분계수는 {diff(P1, x, 2).subs(x, i)} 입니다.")
10 에서 이차미분계수는 -30 입니다.
    15 에서 이차미분계수는 30 입니다.

위 결과에 의하면 변환된 식의 극점은 x = 10, 15 두 개이고 각 지점에서의 이차 미분계수는 각각 -30, 30 입니다. 그러므로 극대값은 x=10일 때 발생합니다.

예)
  주어진 부피에서 측면과 밑면의 면적이 최소가 되도록 직사각형태의 열차 석탄 트럭의 치수를 계산합니다. 길이가 x, 너비를 y라고 하면 부피 V와 h 그리고 표면적 S는 다음과 같이 계산할 수 있습니다.

$$\begin{align}&V = x·y·h\\ &h = \frac{V}{xy} \\ &S = xy + \frac{2V}{x} + \frac{2V}{y} \end{align}$$

측면과 바닥의 면적인 최소인 지점으로 표면적 S의 극소점을 결정합니다. V가 주어진 조건이므로 상수입니다.

x,y, V=symbols("x, y, V", real=True, positive=True)
S=x*y+2*V/x+2*V/y
dSdx=diff(S, x)
dSdx
$\quad \small \color{navy}{ - \frac{2 V}{x^{2}} + y}$
dSdy=diff(S, y)
dSdy
$\quad \small \color{navy}{ - \frac{2 V}{y^{2}} + x}$
solx=solve(dSdx, x)
solx
[sqrt(2)*sqrt(V)/sqrt(y)]
soly=solve(dSdy, y)
soly
[sqrt(2)*sqrt(V)/sqrt(x)]
solve(Eq(solx[0], soly[0]))
[{x: y}]

위 결과에 의하면 x = y인 지점에서 극점이 형성됩니다.

S1=S.subs(y, x)
S1
$\quad \small \color{navy}{ \frac{4 V}{x} + x^{2}}$
dS1=diff(S1, x)
dS1
$\quad \small \color{navy}{ - \frac{4 V}{x^{2}} + 2 x}$
solS1=solve(dS1, x)
solS1
[2**(1/3)*V**(1/3)]
diff(S1, x, 2).subs(x, solS1[0])
6

극점에 대응하는 극값은 $x = \sqrt[3]{2V}$이며 이 값에서 이차미분은 6으로 양수 입니다. 즉, 이 값은 극소지점임을 의미합니다.

댓글

이 블로그의 인기 게시물

[Linear Algebra] 유사변환(Similarity transformation)

유사변환(Similarity transformation) n×n 차원의 정방 행렬 A, B 그리고 가역 행렬 P 사이에 식 1의 관계가 성립하면 행렬 A와 B는 유사행렬(similarity matrix)이 되며 행렬 A를 가역행렬 P와 B로 분해하는 것을 유사 변환(similarity transformation) 이라고 합니다. $$\tag{1} A = PBP^{-1} \Leftrightarrow P^{-1}AP = B $$ 식 2는 식 1의 양변에 B의 고유값을 고려한 것입니다. \begin{align}\tag{식 2} B - \lambda I &= P^{-1}AP – \lambda P^{-1}P\\ &= P^{-1}(AP – \lambda P)\\ &= P^{-1}(A - \lambda I)P \end{align} 식 2의 행렬식은 식 3과 같이 정리됩니다. \begin{align} &\begin{aligned}\textsf{det}(B - \lambda I ) & = \textsf{det}(P^{-1}(AP – \lambda P))\\ &= \textsf{det}(P^{-1}) \textsf{det}((A – \lambda I)) \textsf{det}(P)\\ &= \textsf{det}(P^{-1}) \textsf{det}(P) \textsf{det}((A – \lambda I))\\ &= \textsf{det}(A – \lambda I)\end{aligned}\\ &\begin{aligned}\because \; \textsf{det}(P^{-1}) \textsf{det}(P) &= \textsf{det}(P^{-1}P)\\ &= \textsf{det}(I)\end{aligned}\end{align} 유사행렬의 특성 유사행렬인 두 정방행렬 A와 B는 'A ~ B' 와 같

[matplotlib] 히스토그램(Histogram)

히스토그램(Histogram) 히스토그램은 확률분포의 그래픽적인 표현이며 막대그래프의 종류입니다. 이 그래프가 확률분포와 관계가 있으므로 통계적 요소를 나타내기 위해 많이 사용됩니다. plt.hist(X, bins=10)함수를 사용합니다. x=np.random.randn(1000) plt.hist(x, 10) plt.show() 위 그래프의 y축은 각 구간에 해당하는 갯수이다. 빈도수 대신 확률밀도를 나타내기 위해서는 위 함수의 매개변수 normed=True로 조정하여 나타낼 수 있다. 또한 매개변수 bins의 인수를 숫자로 전달할 수 있지만 리스트 객체로 지정할 수 있다. 막대그래프의 경우와 마찬가지로 각 막대의 폭은 매개변수 width에 의해 조정된다. y=np.linspace(min(x)-1, max(x)+1, 10) y array([-4.48810153, -3.54351935, -2.59893717, -1.65435499, -0.70977282, 0.23480936, 1.17939154, 2.12397372, 3.0685559 , 4.01313807]) plt.hist(x, y, normed=True) plt.show()

R 미분과 적분

내용 expression 미분 2차 미분 mosaic를 사용한 미분 적분 미분과 적분 R에서의 미분과 적분 함수는 expression()함수에 의해 생성된 표현식을 대상으로 합니다. expression expression(문자, 또는 식) 이 표현식의 평가는 eval() 함수에 의해 실행됩니다. > ex1<-expression(1+0:9) > ex1 expression(1 + 0:9) > eval(ex1) [1] 1 2 3 4 5 6 7 8 9 10 > ex2<-expression(u, 2, u+0:9) > ex2 expression(u, 2, u + 0:9) > ex2[1] expression(u) > ex2[2] expression(2) > ex2[3] expression(u + 0:9) > u<-0.9 > eval(ex2[3]) [1] 0.9 1.9 2.9 3.9 4.9 5.9 6.9 7.9 8.9 9.9 미분 D(표현식, 미분 변수) 함수로 미분을 실행합니다. 이 함수의 표현식은 expression() 함수로 생성된 객체이며 미분 변수는 다음 식의 분모의 변수를 의미합니다. $$\frac{d}{d \text{변수}}\text{표현식}$$ 이 함수는 어떤 함수의 미분의 결과를 표현식으로 반환합니다. > D(expression(2*x^3), "x") 2 * (3 * x^2) > eq<-expression(log(x)) > eq expression(log(x)) > D(eq, "x") 1/x > eq2<-expression(a/(1+b*exp(-d*x))); eq2 expression(a/(1 + b * exp(-d * x))) > D(eq2, "x") a * (b * (exp(-d * x) * d))/(1 + b