기본 콘텐츠로 건너뛰기

pandas_ta를 적용한 통계적 인덱스 지표

Log-normal distribution의 소개

확률이론에서 로그노말분포는 어떤값들의 로그화가 정규분포에 부합하는 랜덤변수의 연속확률분포입니다. 즉,
변수 X가 로그노말 분포를 따른다면 Y=ln(X)는 노말분포에 부합합니다.
반대로 Y가 정규분포를 따른다면 X=exp(Y)는 로그노말분포를 가집니다.
로그노말분포를 따르는 랜덤변수는 양의 실수이어야 하겠지요.
로그노말분포의 랜덤변수들은 양의 독립적 변수들의 곱셈으로 얻어지는 값들에서 나타납니다.

많은 데이터를 정규분포와의 비교에서 크거나 작은 왜도에 의해 이탈되는 경우가 많이 발생합니다.
왜도 분포는 평균이 낮거나 분산이 크거나 그 값들이 음수일 경우에 자주 발생합니다. 이러한 분포는 log normal 분포에 근접한 경우가 자주 발생합니다.

어떠한 효과가 첨가적(additive)으로 일어나는 경우 정규분포, 곱셈효과(multiplicative effect)일 경우는 로그노말분포를 따르는 경우가 많습니다.

다음은 첨가효과를 보기위해 주사위를 두개를 시행한 후 더한값의 분포를 정규분포와 비교해 보았습니다.

import numpy as np
import pandas as pd
import matplotlib.pyplot as plt
import matplotlib.pyplot as plt

x=np.random.randint(1, 7, size=10000)
y=np.random.randint(1, 7, size=10000)
z=x+y
bi=np.linspace(1, 13, 12)
n, bins, ig=plt.hist(z, bi, normed=True, linewidth=0.5, edgecolor="k")
mu=np.mean(z)
sd=np.std(z)
plt.plot(bins, tats.norm.pdf(bins, mu, sd), color='r', linewidth=2)
plt.show()

위 분포는 다음의 모수를 가진 정규분포에 부합하는 것을 알 수 있습니다. 
(위 코드에 사용된 stats.norm.pdf(x, 평균, 표준편차)는 정규분포의ㅣ 확률밀도를 반환하는 함수로서 scipy패키지의 stats 클래스 메소드입니다.)
>>> mu
 6.9752999999999998

>>> sd
 2.394178337133639

위 변수 x, y의 곱효과에 대한 그래프입니다. 
z1=x*y
bi1=np.linspace(np.min(z1)-1, max(z1)+1, 13, 12)
n1, bins1, ig1=plt.hist(z1, bi1, normed=True, linewidth=0.5, edgecolor="k")
mu1=np.mean(z1)
sd1=np.std(z1)
plt.plot(bins1, stats.norm.pdf(bins1, mu1, sd1), color='r', linewidth=2)
plt.show()

>>> mu1
 12.117100000000001

>>> sd1
 8.8423066894334763

위 그래프는 오른쪽 꼬리가 긴 왜도 분포를 보입니다. 이 분포는 로그노말분포와 유사한 모양을 보입니다. 그러면 위의 z1값을 로그화하여 동일한 과정으로 그래프를 그려봅니다. 
z2=np.log(z1)
bi2=np.linspace(np.min(z2)-1, max(z2)+1, 13, 12)
n2, bins2, ig2=plt.hist(z2, bi2, normed=True, linewidth=0.5, edgecolor="k")
mu2=np.mean(z2)
sd2=np.std(z2)
plt.plot(bins2, stats.norm.pdf(bins2, mu2, sd2), color='r', linewidth=2)
plt.show()

약간 왼쪽 꼬리가 긴 모양이긴 하지만 정규분포와 많이 유사해짐을 알 수 있습니다.

로그정규분포는 변수의 로그변형과 관계를 가집니다. 즉, 로그정규분포를 따르는 변수의 로그화에 의해 대칭되는 특성을 보입니다.

일반적으로 ln(x)가 정규분포를 가진다면 그 변수 x는 로그정규분포에 부합합니다. 로그 정규분포의 확률밀도 함수는 다음과 같습니다.
$$\text{f(x)} = \frac{1}{x \sigma \sqrt{2\pi}} \text{exp}{(-\frac{1}{2 \sigma^2} (log(x) - \mu)^2)}$$
위 식에서 $\sigma$=s는 shape parameter 입니다.
이 모양변수에 따라 로그 정규분포의 모양이 다양합니다.
다음은 s=0.5인 로그노말분포를 따르는 랜덤변수를 10000개에 대한 일정한 구간에 대한 로그노말 확률밀도를 그래프화 한 것입니다.

s=[0.1, 0.3, 0.5, 0.7, 0.9, 1]
col=['c','m','k','b', 'r', 'g']
x=[lognorm.rvs(0.5) for j in range(10001)]
n, b, ig=plt.hist(x, np.linspace(np.min(x), np.max(x)+0.0001,50), normed=True, color='w')
for i in range(len(s)): 
    plt.plot(b, lognorm.pdf(b, s[i]), color=col[i])
plt.show()
위 결과는 s=0.1인 경우 정규분포의 형태 즉, 좌우 대칭인 모양을 보이지만 이 값이 증가할 수록 첨도가 낮아지고 오른쪽 꼬리가 길어지는 즉, 오른쪽 왜도가 증가하는 로그노말 분포에 근접합니다.



댓글

이 블로그의 인기 게시물

[Linear Algebra] 유사변환(Similarity transformation)

유사변환(Similarity transformation) n×n 차원의 정방 행렬 A, B 그리고 가역 행렬 P 사이에 식 1의 관계가 성립하면 행렬 A와 B는 유사행렬(similarity matrix)이 되며 행렬 A를 가역행렬 P와 B로 분해하는 것을 유사 변환(similarity transformation) 이라고 합니다. $$\tag{1} A = PBP^{-1} \Leftrightarrow P^{-1}AP = B $$ 식 2는 식 1의 양변에 B의 고유값을 고려한 것입니다. \begin{align}\tag{식 2} B - \lambda I &= P^{-1}AP – \lambda P^{-1}P\\ &= P^{-1}(AP – \lambda P)\\ &= P^{-1}(A - \lambda I)P \end{align} 식 2의 행렬식은 식 3과 같이 정리됩니다. \begin{align} &\begin{aligned}\textsf{det}(B - \lambda I ) & = \textsf{det}(P^{-1}(AP – \lambda P))\\ &= \textsf{det}(P^{-1}) \textsf{det}((A – \lambda I)) \textsf{det}(P)\\ &= \textsf{det}(P^{-1}) \textsf{det}(P) \textsf{det}((A – \lambda I))\\ &= \textsf{det}(A – \lambda I)\end{aligned}\\ &\begin{aligned}\because \; \textsf{det}(P^{-1}) \textsf{det}(P) &= \textsf{det}(P^{-1}P)\\ &= \textsf{det}(I)\end{aligned}\end{align} 유사행렬의 특성 유사행렬인 두 정방행렬 A와 B는 'A ~ B' 와 같...

[sympy] Sympy객체의 표현을 위한 함수들

Sympy객체의 표현을 위한 함수들 General simplify(x): 식 x(sympy 객체)를 간단히 정리 합니다. import numpy as np from sympy import * x=symbols("x") a=sin(x)**2+cos(x)**2 a $\sin^{2}{\left(x \right)} + \cos^{2}{\left(x \right)}$ simplify(a) 1 simplify(b) $\frac{x^{3} + x^{2} - x - 1}{x^{2} + 2 x + 1}$ simplify(b) x - 1 c=gamma(x)/gamma(x-2) c $\frac{\Gamma\left(x\right)}{\Gamma\left(x - 2\right)}$ simplify(c) $\displaystyle \left(x - 2\right) \left(x - 1\right)$ 위의 예들 중 객체 c의 감마함수(gamma(x))는 확률분포 등 여러 부분에서 사용되는 표현식으로 다음과 같이 정의 됩니다. 감마함수는 음이 아닌 정수를 제외한 모든 수에서 정의됩니다. 식 1과 같이 자연수에서 감마함수는 factorial(!), 부동소수(양의 실수)인 경우 적분을 적용하여 계산합니다. $$\tag{식 1}\Gamma(n) =\begin{cases}(n-1)!& n:\text{자연수}\\\int^\infty_0x^{n-1}e^{-x}\,dx& n:\text{부동소수}\end{cases}$$ x=symbols('x') gamma(x).subs(x,4) $\displaystyle 6$ factorial 계산은 math.factorial() 함수를 사용할 수 있습니다. import math math.factorial(3) 6 a=gamma(x).subs(x,4.5) a.evalf(3) 11.6 simpilfy() 함수의 알고리즘은 식에서 공통사항을 찾아 정리하...

유리함수 그래프와 점근선 그리기

내용 유리함수(Rational Function) 점근선(asymptote) 유리함수 그래프와 점근선 그리기 유리함수(Rational Function) 유리함수는 분수형태의 함수를 의미합니다. 예를들어 다음 함수는 분수형태의 유리함수입니다. $$f(x)=\frac{x^{2} - 1}{x^{2} + x - 6}$$ 분수의 경우 분모가 0인 경우 정의할 수 없습니다. 이와 마찬가지로 유리함수 f(x)의 정의역은 분모가 0이 아닌 부분이어야 합니다. 그러므로 위함수의 정의역은 분모가 0인 부분을 제외한 부분들로 구성됩니다. sympt=solve(denom(f), a); asympt [-3, 2] $$-\infty \lt x \lt -3, \quad -3 \lt x \lt 2, \quad 2 \lt x \lt \infty$$ 이 정의역을 고려해 그래프를 작성을 위한 사용자 정의함수는 다음과 같습니다. def validX(x, f, symbol): ① a=[] b=[] for i in x: try: b.append(float(f.subs(symbol, i))) a.append(i) except: pass return(a, b) #x는 임의로 지정한 정의역으로 불연속선점을 기준으로 구분된 몇개의 구간으로 전달할 수 있습니다. #그러므로 인수 x는 2차원이어야 합니다. def RationalPlot(x, f, sym, dp=100): fig, ax=plt.subplots(dpi=dp) # ② for k in x: #③ x4, y4=validX(k, f, sym) ax.plot(x4, y4) ax.spines['left'].set_position(('data', 0)) ax.spines['right...