기본 콘텐츠로 건너뛰기

[ML] 결정트리(Decision Tree) 모델

댓글 쓰기

R 미분과 적분

내용

미분과 적분

R에서의 미분과 적분 함수는 expression()함수에 의해 생성된 표현식을 대상으로 합니다.

expression

expression(문자, 또는 식)
이 표현식의 평가는 eval() 함수에 의해 실행됩니다. 
> ex1<-expression(1+0:9)
> ex1
expression(1 + 0:9)
> eval(ex1)
 [1]  1  2  3  4  5  6  7  8  9 10
> ex2<-expression(u, 2, u+0:9)
> ex2
expression(u, 2, u + 0:9)
> ex2[1]
expression(u)
> ex2[2]
expression(2)
> ex2[3]
expression(u + 0:9)
> u<-0.9
> eval(ex2[3])
 [1] 0.9 1.9 2.9 3.9 4.9 5.9 6.9 7.9 8.9 9.9

미분

D(표현식, 미분 변수)함수로 미분을 실행합니다. 이 함수의 표현식은 expression() 함수로 생성된 객체이며 미분 변수는 다음 식의 분모의 변수를 의미합니다. $$\frac{d}{d \text{변수}}\text{표현식}$$ 이 함수는 어떤 함수의 미분의 결과를 표현식으로 반환합니다. 
> D(expression(2*x^3), "x")
2 * (3 * x^2)
> eq<-expression(log(x))
> eq
expression(log(x))
> D(eq, "x")
1/x
> eq2<-expression(a/(1+b*exp(-d*x))); eq2
expression(a/(1 + b * exp(-d * x)))
> D(eq2, "x")
a * (b * (exp(-d * x) * d))/(1 + b * exp(-d * x))^2
> a<-3; b<-2; d<-1; x<-3
> eval(D(eq2, 'x'))
[1] 0.2470693
실제 값의 계산을 위해서는 deriv() 함수를 이용한다.
deriv(expression, 변수, function.arg=NULL)
expression식이 아닌 직접식으로 나타낼 경우 tilt(~)와 함께 나타냅니다. deriv(expression(x^2,...) =derive(~x^2, ...)
이 함수의 3번째 인수를 function.arg=True로 지정할 경우 미분된 결과를 함수로 반환하므로 직접적인 수치해석이 가능합니다. 이 인수는 func=T로 간단히 표기할 수 있습니다. 
> g <- deriv(~ exp(-x^2), "x")
> g
expression({
    .expr3 <- exp(-x^2)
    .value <- .expr3
    .grad <- array(0, c(length(.value), 1L), list(NULL, c("x")))
    .grad[, "x"] <- -(.expr3 * (2 * x))
    attr(.value, "gradient") <- .grad
    .value
})
> g(2)
g(2)에서 다음과 같은 에러가 발생했습니다:함수 "g"를 찾을 수 없습니다
> g <- deriv(~exp(-x^2), "x", function.arg=TRUE)
> g
function (x) 
{
    .expr3 <- exp(-x^2)
    .value <- .expr3
    .grad <- array(0, c(length(.value), 1L), list(NULL, c("x")))
    .grad[, "x"] <- -(.expr3 * (2 * x))
    attr(.value, "gradient") <- .grad
    .value
}
> g(2)
[1] 0.01831564 #원 함수 값 exp(-4)
attr(,"gradient")
               x
[1,] -0.07326256 #미분된 함수의 값 -(2*2)exp(-4)
> g(seq(1, 2, 0.2))
[1] 0.36787944 0.23692776 0.14085842 0.07730474 0.03916390 0.01831564
attr(,"gradient")
               x
[1,] -0.73575888
[2,] -0.56862662
[3,] -0.39440358
[4,] -0.24737517
[5,] -0.14099002
[6,] -0.07326256
> g <- deriv(expression(exp(-x^2)), "x", function.arg=TRUE) 
> g(2)
[1] 0.01831564
attr(,"gradient")
               x
[1,] -0.07326256

예)
$f(w)=7\log(w)+3\log(1-w)$를 미분하고 w=0.1, 0.2에서의 미분값을 결정합니다. 

> f<-expression(7*log(w)+3*log(1-w))
> df<-D(f, 'w') ; df
7 * (1/w) - 3 * (1/(1 - w))
> w<-c(0.1, 0.2)
> eval(df)
[1] 66.66667 31.25000
> derf<-deriv(f, 'w', function.arg=TRUE);derf
function (w) 
{
    .expr3 <- 1 - w
    .value <- 7 * log(w) + 3 * log(.expr3)
    .grad <- array(0, c(length(.value), 1L), list(NULL, c("w")))    
    .grad[, "w"] <- 7 * (1/w) - 3 * (1/.expr3)
    attr(.value, "gradient") <- .grad
    .value
}
> derf(c(0.1, 0.2))
[1] -16.43418 -11.93550
attr(,"gradient")
            w
[1,] 66.66667
[2,] 31.25000

2차 미분

D()함수는 1차 미분을 실행합니다. 2차 이상의 미분을 시행하기 위해 D()함수를 사용하여 다음과 같이 사용자 정의함수를 작성하여 사용할 수 있습니다. 
dHigh<-function(expr, name, order=1){
    if (order<1) stop('order should be more than 1.')
    if (order==1) D(expr, name)
    else dHigh(D(expr, name), name, order-1)
}
> eq<-expression(x^4)
> dHigh(eq, 'x')
4 * x^3
> dHigh(eq, 'x', 2)
4 * (3 * x^2)
> dHigh(eq, 'x', 3)
4 * (3 * (2 * x))

mosaic를 사용한 미분

mosaic 라이브러리의 미분과 적분을 사용하기 위해서는 mosaicCalc의 라이브러리를 사용합니다. D(식~변수) 함수를 사용합니다. 
> f=D(A*x^2*sin(y)~x) 
> f
function (x, y, A) 
2 * A * x * sin(y)
> f(3,2,1)
[1] 5.455785
> plotFun(f(A=2, y=3, x=x)~x, x.lim=range(1,10))
이 함수의 인수인 변수를 입력하는 횟수에 따라 고차 미분을 시행할 수 있습니다. 
> D(x^4~x)     
function (x) 
4 * x^3
> D(x^4~x+x+x)
function (x) 
24 * x
> D(x^4~x+x+x+x)
function (x) 
24
> D(x^4~x+x+x+x+x)
function (x) 
0

적분

R에서 정적분은 integrate(함수) 함수를 사용합니다. 인수로서 함수는 function()으로 생성된 함수이어야 합니다. 
> f<-function(x){
+ return(2*x-x^2)}
> integrate(f, 0, 3)
1.665335e-16 with absolute error < 3e-14
편적분을 위해서는 cubature 라이브러리의 adaptIntegrate()를 사용한다. 부정적분을 계산하기 위해서는 기호를 변수로 인식하는 것이 필요합니다. 이는 라이브러리 mosaic와 mosaicCalc의 함수 antiD() 함수를 사용합니다. 
> F<-antiD(a*x^2~x, a=1)
> F
function (x, a = 1, C = 0) 
(x^3 * a)/3 + C
> F(3)-F(1)
[1] 8.666667
> P=antiD(exp(x^2)~x);P
function (x, C = 0) 
{
    F <- makeF(exp(x^2))
    evalFun(F, x = x, .const = C)
}

> P(3)-P(1)
[1] 1443.082
Labels:

댓글

댓글 쓰기

이 블로그의 인기 게시물

[Linear Algebra] 유사변환(Similarity transformation)

유사변환(Similarity transformation) n×n 차원의 정방 행렬 A, B 그리고 가역 행렬 P 사이에 식 1의 관계가 성립하면 행렬 A와 B는 유사행렬(similarity matrix)이 되며 행렬 A를 가역행렬 P와 B로 분해하는 것을 유사 변환(similarity transformation) 이라고 합니다. $$\tag{1} A = PBP^{-1} \Leftrightarrow P^{-1}AP = B $$ 식 2는 식 1의 양변에 B의 고유값을 고려한 것입니다. \begin{align}\tag{식 2} B - \lambda I &= P^{-1}AP – \lambda P^{-1}P\\ &= P^{-1}(AP – \lambda P)\\ &= P^{-1}(A - \lambda I)P \end{align} 식 2의 행렬식은 식 3과 같이 정리됩니다. \begin{align} &\begin{aligned}\textsf{det}(B - \lambda I ) & = \textsf{det}(P^{-1}(AP – \lambda P))\\ &= \textsf{det}(P^{-1}) \textsf{det}((A – \lambda I)) \textsf{det}(P)\\ &= \textsf{det}(P^{-1}) \textsf{det}(P) \textsf{det}((A – \lambda I))\\ &= \textsf{det}(A – \lambda I)\end{aligned}\\ &\begin{aligned}\because \; \textsf{det}(P^{-1}) \textsf{det}(P) &= \textsf{det}(P^{-1}P)\\ &= \textsf{det}(I)\end{aligned}\end{align} 유사행렬의 특성 유사행렬인 두 정방행렬 A와 B는 'A ~ B' 와 같
댓글 쓰기
Read more »

[matplotlib] 히스토그램(Histogram)

히스토그램(Histogram) 히스토그램은 확률분포의 그래픽적인 표현이며 막대그래프의 종류입니다. 이 그래프가 확률분포와 관계가 있으므로 통계적 요소를 나타내기 위해 많이 사용됩니다. plt.hist(X, bins=10)함수를 사용합니다. x=np.random.randn(1000) plt.hist(x, 10) plt.show() 위 그래프의 y축은 각 구간에 해당하는 갯수이다. 빈도수 대신 확률밀도를 나타내기 위해서는 위 함수의 매개변수 normed=True로 조정하여 나타낼 수 있다. 또한 매개변수 bins의 인수를 숫자로 전달할 수 있지만 리스트 객체로 지정할 수 있다. 막대그래프의 경우와 마찬가지로 각 막대의 폭은 매개변수 width에 의해 조정된다. y=np.linspace(min(x)-1, max(x)+1, 10) y array([-4.48810153, -3.54351935, -2.59893717, -1.65435499, -0.70977282, 0.23480936, 1.17939154, 2.12397372, 3.0685559 , 4.01313807]) plt.hist(x, y, normed=True) plt.show()
댓글 쓰기
Read more »