기본 콘텐츠로 건너뛰기

[ML] 결정트리(Decision Tree) 모델

[data analysis]로그-노말 분포(Log-normal distribution)

로그-노말 분포(Log-normal distribution)

랜덤변수의 자연로그가 정규분포를 따른다면 랜덤변수 자체는 로그노말(log-normal) 분포를 따른다고 할 수 있습니다.

X (log-normal)Y=ln(x) (normal)
Y(normal)X=exp(Y) (log-normal)

양수인 연속 랜덤변수 X를 식 1과 같이 나타낼 수 있다고 가정합니다.

$$R_x = \mathbb{R_{++}} \tag{식 1}$$

랜덤 변수 X의 확률밀도함수가 식 2와 같다면 그 변수는 매개변수 $\mu$와 $\sigma^2$를 가지는 로그노말 분포(log-normal distribution)를 따릅니다.

$$\tag{식 2} f_x(X)= \begin{cases} \frac{1}{x\sqrt{2\pi}\sigma}\exp\left(-\frac{1}{2}\frac{(\ln x -\mu)^2}{\sigma^2}\right)& \text{if}\; x \in R_x\\ 0& \text{if}\; x \notin R_x \end{cases}$$

다음 코드는 식 2를 함수로 작성한 것입니다.

def logNormPdf(x, mu, sigma):
    c1=1/(x*np.sqrt(2*np.pi)*sigma)
    c2=np.exp(-1/2*(np.log(x)-mu)**2/sigma**2)
    return c1*c2

양수인 랜덤변수 x에 대해 모수 중의 σ의 변화에 따른 위 로그-노말 확률밀도 함수를 적용한 행태를 나타냅니다.

x=np.linspace(0.01, 10, 1000)
para=[(0,0.5, 'g'), (0, 1, 'b'), (0, 2, 'r')]
plt.figure(figsize=(3,2))
for i , j, z in para:
    p=logNormPdf(x, i, j)
    plt.plot(x, p, color=z, label=f"$\mu$={i}, $\sigma$={j}")
plt.xlabel("x")
plt.ylabel('PDF')
plt.legend(loc="best")
plt.show()

위 코드의 변수는 로그-노말 분포에 부합합니다. 이 변수에 자연로그를 취한 변형된 랜덤 변수는 정규분포에 부합니다.

y=np.log(x)
pn=stats.norm.pdf(y,scale=0.5/2)
plt.figure(figsize=(3,2))
plt.plot(y, pn)
plt.show()

Y~N(μ, σ2) 즉, 랜덤변수 Y는 μ와 σ2를 모수로 하는 정규분포를 따릅니다. 이 변수에 식 3이 성립하면 랜덤변수 X는 μ와 σ2를 모수로 하는 로그-노말 분포를 따르며 그 확률밀도 함수는 식 4와 같습니다.

$$\tag{식3} X=\exp(Y) \Leftrightarrow \ln X=Y$$

위 식 3에 부합하는 X의 확률밀도 함수는 식 4와 같습니다.

$$\begin{align}\tag{식 4} f_y(y)&=\frac{1}{\sqrt{2\pi} \sigma} \exp\left(-\frac{(y-\mu)^2}{2\sigma^2}\right)\\& x=g(Y)=\exp(Y) \\ f_x(x)& =f_y(g^{-1}(x))\frac{dg^{-1}(x)}{dx}\\ &g^{-1}(x)=\ln x \\\ &\frac{dg^{-1}(x)}{dx}=\frac{1}{x}\\ f(x) & =f_y(g^{-1}(x))\frac{dg^{-1}(x)}{dx} \\ & =\frac{1}{\sqrt{2\pi} \sigma} \exp\left(-\frac{(\ln x-\mu)^2}{2\sigma^2}\right)\frac{1}{x}\end{align}$$

식 4는 랜덤변수의 Y와 X의 역함수 관계를 적용한 것입니다(증가 확률함수의 역함수 참조).

기대값

로그 노말 분포를 따르는 랜덤변수 X에 대한 기대값은 식 4와 같습니다.

$$\tag{식 5}E(X) = \exp\left(\mu + \frac{1}{2} \sigma^2\right)$$

위 식 5는 다음과정으로 유도 됩니다(식 6).

\begin{align}\tag{식 6} E(X)&=\int^\infty_{-\infty} xf(x)\, dx \\ &=\int^\infty_0 x \frac{1}{\sqrt{2\pi} \sigma} \exp\left(-\frac{(\ln x-\mu)^2}{2\sigma^2}\right)\frac{1}{x}\, dx\end{align}

식 6에서 랜덤변수 X는 로그-노말 분포를 따르므로 범위는 x < 0 이 됩니다. 또한 위 식을 식 7과 같이 치환하여 계산합니다.

\begin{align}\tag{식 7}t&=\frac{\ln(x)-\mu}{\sigma} \Rightarrow x=\exp\left(\sigma t +\mu \right)\\ \frac{dt}{dx}&=\frac{d\left(\frac{1}{\sigma}(\ln(x)-\mu) \right)}{dx} \\&=\frac{1}{\sigma x}\\ dt &=\frac{1}{\sigma x} dx \Rightarrow dx=\sigma x dt=\sigma \exp\left(\sigma t +\mu \right)dt\\ & x \rightarrow 0 \Rightarrow t \rightarrow -\infty \\ & x \rightarrow \infty \Rightarrow t \rightarrow \infty \end{align}

식 7을 식 6에 대입하여 정리하면 식 8과 같습니다.

\begin{align}\tag{식 8} E(X)&= \int^\infty_0 \frac{1}{\sqrt{2\pi} \sigma} \exp\left(-\frac{(\ln x-\mu)^2}{2\sigma^2}\right)\\ &=\int^\infty_{\infty} \frac{1}{\sqrt{2\pi} \sigma} \exp\left(-\frac{t^2}{2}\right)\sigma\exp\left(\sigma t +\mu \right)dt \\ \Rightarrow & -\frac{1}{2}t^2+\sigma t+\mu = -\frac{1}{2}(t+\sigma)^2+\left(\frac{\sigma^2}{2}+\mu\right)\,dt\\ & = \frac{1}{\sqrt{2\pi}}\int^\infty_{\infty} \exp\left( -\frac{1}{2}(t+\sigma)^2\right)\exp\left(\frac{\sigma^2}{2}+\mu\right)\, dt\\ &=\exp\left(\frac{\sigma^2}{2}+\mu\right)\int^\infty_{\infty} \frac{1}{\sqrt{2\pi}}\exp\left( -\frac{1}{2}(t+\sigma)^2\right)\, dt\\ \Rightarrow &\text{위 항의 적분은 표준편차 1, 평균이}\, \sigma\,\text{인 정규분포로서 적분 결과는 1입니다.}\\&=\exp\left(\frac{\sigma^2}{2}+\mu\right)\end{align}

분산

로그 노말 분포를 따르는 랜덤변수 X에 대한 분산은 식 9와 같습니다.

$$\tag{식 9}\text{Var}(X) = \exp\left(\frac{2\mu + 2 \sigma^2}{2\mu + \sigma^2}\right)$$

분산은 $E(X^2)-E(x)^2$으로 계산됩니다. 먼저 $ E(X^2)$는 식 10과 같이 결정할 수 있습니다. 이 과정에서 식 7을 치환적분을 실행합니다.

\begin{align}\tag{식 10} E(X^2)&=\int^\infty_{-\infty} x^2f(x)\, dx \\ &=\int^\infty_0 x^2 \frac{1}{\sqrt{2\pi} \sigma} \exp\left(-\frac{(\ln x-\mu)^2}{2\sigma^2}\right)\frac{1}{x}\, dx\\&=\frac{1}{\sqrt{2\pi} \sigma} \int^\infty_0 x \exp\left(-\frac{(\ln x-\mu)^2}{2\sigma^2}\right)\, dx\\ &=\exp\left(2\sigma^2+2\mu\right) \end{align}

그러므로 분산은 식 11과 같습니다.

\begin{align}\tag{식 11}\text{Var}(X)&=E(X^2)-E(x)^2\\&= \exp\left(2\sigma^2+2\mu\right) - \left(\exp\left(\frac{\sigma^2}{2}+\mu\right)\right)^2\\&= \exp\left(2\sigma^2+2\mu\right)-\exp 2\left(\frac{\sigma^2}{2}+\mu\right)\\ &= \exp\left(2\sigma^2+2\mu\right)-\exp\left(2\mu+\sigma^2\right)\\& \because\; [\ln(z)]^2 = \ln(2z)\end{align}

높은 차수의 모멘트

n차 모멘트는 식 12와 같이 계산됩니다.

\begin{align}\tag{식 12}E(X^n)&=\int^\infty_{-\infty}x^nF_x(x)\, dx\\ &=\int^\infty_0 x^n \frac{1}{\sqrt{2\pi} \sigma} \exp\left(-\frac{(\ln x-\mu)^2}{2\sigma^2}\right)\frac{1}{x}\, dx\\&=\exp \left(\frac{1}{2}n^2\sigma^2+n\mu\right) \end{align}

식 12는 식 7을 적용하여 증명할 수 있습니다.

댓글

이 블로그의 인기 게시물

[Linear Algebra] 유사변환(Similarity transformation)

유사변환(Similarity transformation) n×n 차원의 정방 행렬 A, B 그리고 가역 행렬 P 사이에 식 1의 관계가 성립하면 행렬 A와 B는 유사행렬(similarity matrix)이 되며 행렬 A를 가역행렬 P와 B로 분해하는 것을 유사 변환(similarity transformation) 이라고 합니다. $$\tag{1} A = PBP^{-1} \Leftrightarrow P^{-1}AP = B $$ 식 2는 식 1의 양변에 B의 고유값을 고려한 것입니다. \begin{align}\tag{식 2} B - \lambda I &= P^{-1}AP – \lambda P^{-1}P\\ &= P^{-1}(AP – \lambda P)\\ &= P^{-1}(A - \lambda I)P \end{align} 식 2의 행렬식은 식 3과 같이 정리됩니다. \begin{align} &\begin{aligned}\textsf{det}(B - \lambda I ) & = \textsf{det}(P^{-1}(AP – \lambda P))\\ &= \textsf{det}(P^{-1}) \textsf{det}((A – \lambda I)) \textsf{det}(P)\\ &= \textsf{det}(P^{-1}) \textsf{det}(P) \textsf{det}((A – \lambda I))\\ &= \textsf{det}(A – \lambda I)\end{aligned}\\ &\begin{aligned}\because \; \textsf{det}(P^{-1}) \textsf{det}(P) &= \textsf{det}(P^{-1}P)\\ &= \textsf{det}(I)\end{aligned}\end{align} 유사행렬의 특성 유사행렬인 두 정방행렬 A와 B는 'A ~ B' 와 같

[matplotlib] 히스토그램(Histogram)

히스토그램(Histogram) 히스토그램은 확률분포의 그래픽적인 표현이며 막대그래프의 종류입니다. 이 그래프가 확률분포와 관계가 있으므로 통계적 요소를 나타내기 위해 많이 사용됩니다. plt.hist(X, bins=10)함수를 사용합니다. x=np.random.randn(1000) plt.hist(x, 10) plt.show() 위 그래프의 y축은 각 구간에 해당하는 갯수이다. 빈도수 대신 확률밀도를 나타내기 위해서는 위 함수의 매개변수 normed=True로 조정하여 나타낼 수 있다. 또한 매개변수 bins의 인수를 숫자로 전달할 수 있지만 리스트 객체로 지정할 수 있다. 막대그래프의 경우와 마찬가지로 각 막대의 폭은 매개변수 width에 의해 조정된다. y=np.linspace(min(x)-1, max(x)+1, 10) y array([-4.48810153, -3.54351935, -2.59893717, -1.65435499, -0.70977282, 0.23480936, 1.17939154, 2.12397372, 3.0685559 , 4.01313807]) plt.hist(x, y, normed=True) plt.show()

R 미분과 적분

내용 expression 미분 2차 미분 mosaic를 사용한 미분 적분 미분과 적분 R에서의 미분과 적분 함수는 expression()함수에 의해 생성된 표현식을 대상으로 합니다. expression expression(문자, 또는 식) 이 표현식의 평가는 eval() 함수에 의해 실행됩니다. > ex1<-expression(1+0:9) > ex1 expression(1 + 0:9) > eval(ex1) [1] 1 2 3 4 5 6 7 8 9 10 > ex2<-expression(u, 2, u+0:9) > ex2 expression(u, 2, u + 0:9) > ex2[1] expression(u) > ex2[2] expression(2) > ex2[3] expression(u + 0:9) > u<-0.9 > eval(ex2[3]) [1] 0.9 1.9 2.9 3.9 4.9 5.9 6.9 7.9 8.9 9.9 미분 D(표현식, 미분 변수) 함수로 미분을 실행합니다. 이 함수의 표현식은 expression() 함수로 생성된 객체이며 미분 변수는 다음 식의 분모의 변수를 의미합니다. $$\frac{d}{d \text{변수}}\text{표현식}$$ 이 함수는 어떤 함수의 미분의 결과를 표현식으로 반환합니다. > D(expression(2*x^3), "x") 2 * (3 * x^2) > eq<-expression(log(x)) > eq expression(log(x)) > D(eq, "x") 1/x > eq2<-expression(a/(1+b*exp(-d*x))); eq2 expression(a/(1 + b * exp(-d * x))) > D(eq2, "x") a * (b * (exp(-d * x) * d))/(1 + b