기본 콘텐츠로 건너뛰기

[ML] 결정트리(Decision Tree) 모델

Log-normal distribution의 소개

확률이론에서 로그노말분포는 어떤값들의 로그화가 정규분포에 부합하는 랜덤변수의 연속확률분포입니다. 즉,
변수 X가 로그노말 분포를 따른다면 Y=ln(X)는 노말분포에 부합합니다.
반대로 Y가 정규분포를 따른다면 X=exp(Y)는 로그노말분포를 가집니다.
로그노말분포를 따르는 랜덤변수는 양의 실수이어야 하겠지요.
로그노말분포의 랜덤변수들은 양의 독립적 변수들의 곱셈으로 얻어지는 값들에서 나타납니다.

많은 데이터를 정규분포와의 비교에서 크거나 작은 왜도에 의해 이탈되는 경우가 많이 발생합니다.
왜도 분포는 평균이 낮거나 분산이 크거나 그 값들이 음수일 경우에 자주 발생합니다. 이러한 분포는 log normal 분포에 근접한 경우가 자주 발생합니다.

어떠한 효과가 첨가적(additive)으로 일어나는 경우 정규분포, 곱셈효과(multiplicative effect)일 경우는 로그노말분포를 따르는 경우가 많습니다.

다음은 첨가효과를 보기위해 주사위를 두개를 시행한 후 더한값의 분포를 정규분포와 비교해 보았습니다.

import numpy as np
import pandas as pd
import matplotlib.pyplot as plt
import matplotlib.pyplot as plt

x=np.random.randint(1, 7, size=10000)
y=np.random.randint(1, 7, size=10000)
z=x+y
bi=np.linspace(1, 13, 12)
n, bins, ig=plt.hist(z, bi, normed=True, linewidth=0.5, edgecolor="k")
mu=np.mean(z)
sd=np.std(z)
plt.plot(bins, tats.norm.pdf(bins, mu, sd), color='r', linewidth=2)
plt.show()

위 분포는 다음의 모수를 가진 정규분포에 부합하는 것을 알 수 있습니다. 
(위 코드에 사용된 stats.norm.pdf(x, 평균, 표준편차)는 정규분포의ㅣ 확률밀도를 반환하는 함수로서 scipy패키지의 stats 클래스 메소드입니다.)
>>> mu
 6.9752999999999998

>>> sd
 2.394178337133639

위 변수 x, y의 곱효과에 대한 그래프입니다. 
z1=x*y
bi1=np.linspace(np.min(z1)-1, max(z1)+1, 13, 12)
n1, bins1, ig1=plt.hist(z1, bi1, normed=True, linewidth=0.5, edgecolor="k")
mu1=np.mean(z1)
sd1=np.std(z1)
plt.plot(bins1, stats.norm.pdf(bins1, mu1, sd1), color='r', linewidth=2)
plt.show()

>>> mu1
 12.117100000000001

>>> sd1
 8.8423066894334763

위 그래프는 오른쪽 꼬리가 긴 왜도 분포를 보입니다. 이 분포는 로그노말분포와 유사한 모양을 보입니다. 그러면 위의 z1값을 로그화하여 동일한 과정으로 그래프를 그려봅니다. 
z2=np.log(z1)
bi2=np.linspace(np.min(z2)-1, max(z2)+1, 13, 12)
n2, bins2, ig2=plt.hist(z2, bi2, normed=True, linewidth=0.5, edgecolor="k")
mu2=np.mean(z2)
sd2=np.std(z2)
plt.plot(bins2, stats.norm.pdf(bins2, mu2, sd2), color='r', linewidth=2)
plt.show()

약간 왼쪽 꼬리가 긴 모양이긴 하지만 정규분포와 많이 유사해짐을 알 수 있습니다.

로그정규분포는 변수의 로그변형과 관계를 가집니다. 즉, 로그정규분포를 따르는 변수의 로그화에 의해 대칭되는 특성을 보입니다.

일반적으로 ln(x)가 정규분포를 가진다면 그 변수 x는 로그정규분포에 부합합니다. 로그 정규분포의 확률밀도 함수는 다음과 같습니다.
$$\text{f(x)} = \frac{1}{x \sigma \sqrt{2\pi}} \text{exp}{(-\frac{1}{2 \sigma^2} (log(x) - \mu)^2)}$$
위 식에서 $\sigma$=s는 shape parameter 입니다.
이 모양변수에 따라 로그 정규분포의 모양이 다양합니다.
다음은 s=0.5인 로그노말분포를 따르는 랜덤변수를 10000개에 대한 일정한 구간에 대한 로그노말 확률밀도를 그래프화 한 것입니다.

s=[0.1, 0.3, 0.5, 0.7, 0.9, 1]
col=['c','m','k','b', 'r', 'g']
x=[lognorm.rvs(0.5) for j in range(10001)]
n, b, ig=plt.hist(x, np.linspace(np.min(x), np.max(x)+0.0001,50), normed=True, color='w')
for i in range(len(s)): 
    plt.plot(b, lognorm.pdf(b, s[i]), color=col[i])
plt.show()
위 결과는 s=0.1인 경우 정규분포의 형태 즉, 좌우 대칭인 모양을 보이지만 이 값이 증가할 수록 첨도가 낮아지고 오른쪽 꼬리가 길어지는 즉, 오른쪽 왜도가 증가하는 로그노말 분포에 근접합니다.



댓글

이 블로그의 인기 게시물

[Linear Algebra] 유사변환(Similarity transformation)

유사변환(Similarity transformation) n×n 차원의 정방 행렬 A, B 그리고 가역 행렬 P 사이에 식 1의 관계가 성립하면 행렬 A와 B는 유사행렬(similarity matrix)이 되며 행렬 A를 가역행렬 P와 B로 분해하는 것을 유사 변환(similarity transformation) 이라고 합니다. $$\tag{1} A = PBP^{-1} \Leftrightarrow P^{-1}AP = B $$ 식 2는 식 1의 양변에 B의 고유값을 고려한 것입니다. \begin{align}\tag{식 2} B - \lambda I &= P^{-1}AP – \lambda P^{-1}P\\ &= P^{-1}(AP – \lambda P)\\ &= P^{-1}(A - \lambda I)P \end{align} 식 2의 행렬식은 식 3과 같이 정리됩니다. \begin{align} &\begin{aligned}\textsf{det}(B - \lambda I ) & = \textsf{det}(P^{-1}(AP – \lambda P))\\ &= \textsf{det}(P^{-1}) \textsf{det}((A – \lambda I)) \textsf{det}(P)\\ &= \textsf{det}(P^{-1}) \textsf{det}(P) \textsf{det}((A – \lambda I))\\ &= \textsf{det}(A – \lambda I)\end{aligned}\\ &\begin{aligned}\because \; \textsf{det}(P^{-1}) \textsf{det}(P) &= \textsf{det}(P^{-1}P)\\ &= \textsf{det}(I)\end{aligned}\end{align} 유사행렬의 특성 유사행렬인 두 정방행렬 A와 B는 'A ~ B' 와 같

[matplotlib] 히스토그램(Histogram)

히스토그램(Histogram) 히스토그램은 확률분포의 그래픽적인 표현이며 막대그래프의 종류입니다. 이 그래프가 확률분포와 관계가 있으므로 통계적 요소를 나타내기 위해 많이 사용됩니다. plt.hist(X, bins=10)함수를 사용합니다. x=np.random.randn(1000) plt.hist(x, 10) plt.show() 위 그래프의 y축은 각 구간에 해당하는 갯수이다. 빈도수 대신 확률밀도를 나타내기 위해서는 위 함수의 매개변수 normed=True로 조정하여 나타낼 수 있다. 또한 매개변수 bins의 인수를 숫자로 전달할 수 있지만 리스트 객체로 지정할 수 있다. 막대그래프의 경우와 마찬가지로 각 막대의 폭은 매개변수 width에 의해 조정된다. y=np.linspace(min(x)-1, max(x)+1, 10) y array([-4.48810153, -3.54351935, -2.59893717, -1.65435499, -0.70977282, 0.23480936, 1.17939154, 2.12397372, 3.0685559 , 4.01313807]) plt.hist(x, y, normed=True) plt.show()

R 미분과 적분

내용 expression 미분 2차 미분 mosaic를 사용한 미분 적분 미분과 적분 R에서의 미분과 적분 함수는 expression()함수에 의해 생성된 표현식을 대상으로 합니다. expression expression(문자, 또는 식) 이 표현식의 평가는 eval() 함수에 의해 실행됩니다. > ex1<-expression(1+0:9) > ex1 expression(1 + 0:9) > eval(ex1) [1] 1 2 3 4 5 6 7 8 9 10 > ex2<-expression(u, 2, u+0:9) > ex2 expression(u, 2, u + 0:9) > ex2[1] expression(u) > ex2[2] expression(2) > ex2[3] expression(u + 0:9) > u<-0.9 > eval(ex2[3]) [1] 0.9 1.9 2.9 3.9 4.9 5.9 6.9 7.9 8.9 9.9 미분 D(표현식, 미분 변수) 함수로 미분을 실행합니다. 이 함수의 표현식은 expression() 함수로 생성된 객체이며 미분 변수는 다음 식의 분모의 변수를 의미합니다. $$\frac{d}{d \text{변수}}\text{표현식}$$ 이 함수는 어떤 함수의 미분의 결과를 표현식으로 반환합니다. > D(expression(2*x^3), "x") 2 * (3 * x^2) > eq<-expression(log(x)) > eq expression(log(x)) > D(eq, "x") 1/x > eq2<-expression(a/(1+b*exp(-d*x))); eq2 expression(a/(1 + b * exp(-d * x))) > D(eq2, "x") a * (b * (exp(-d * x) * d))/(1 + b