기본 콘텐츠로 건너뛰기

벡터와 행렬에 관련된 그림들

[data analysis] 포아송분포(Poisson distribution)

포아송분포(Poisson distribution)

고정된 시간이나 공간에서 일어날 수 있는 사건의 확률을 표현하는 이산분포이며 가장 많이 사용되는 분포 중의 하나로서 확률변수 X는 사건의 수가 됩니다. 그러므로 이 분포는 전체 발생 사건수를 결정할 수 없으므로 전체에 대한 대상 사건의 발생의 비율 즉, 일반적인 확률 개념을 사용할 수 없습니다. 대신에 대상 시간 또는 공간에서의 평균적인 발생횟수를 알 수 있다면 식 1과 같은 분포함수를 적용할 수 있습니다.

$$P(X = x) = \frac{e^{-\lambda}\lambda^x}{x!}$$(식 1)

식 1에서 λ는 사건의 평균발생수를 나타냅니다.

위 식의 확률질량함수를 가지는 포아송 분포는 다음의 전제조건을 갖습니다.

  • 특정한 시간 또는 공간에서 발생하는 사건은 다른 시간, 공간에서 발생하는 결과와 독립이어야 합니다.
  • 단위 시간 또는 공간에 발생하는 사건의 횟수는 동일하여야 합니다.
  • 매우 짧은 시간 또는 매우 작은 공간에서 두 개 이상의 결과가 동시에 발생할 확률은 0이어야 합니다.

모든 범위에서 포아송분포의 확률질량함수는 1이 되어야 하며 식 2와 같이 증명할 수 있습니다.

\begin{align}\sum^\infty_{i=1}\frac{e^{-\lambda}\lambda^i}{i!}&=e^{\lambda}\sum^\infty_{i=1}\frac{\lambda^i}{i!}\\&=e^{-\lambda}e^\lambda\\&=1\\ \because\, \sum^\infty_{x=1}\frac{\lambda^x}{x!}&=1+\lambda+\frac{\lambda^2}{2!}+\frac{\lambda^3}{3!}+\cdots\\&\text{Taylor series}\end{align} (식 2)

위 전개과정에서 적용한 테일러 급수를 sympy의 series()Sum()함수를 사용하여 확인해 봅니다.

l, x = symbols('lambda, x')
f=l**x/factorial(x)
Sum(f, (x, 0, oo)).doit()
eλ
series(exp(l), l, 0, 6,"+")

$1+\lambda+\frac{\lambda^2}{2}+\frac{\lambda^3}{6}+\frac{\lambda^4}{24}+\frac{\lambda^5}{120}+O(\lambda^6)$

요약하면 확률변수 X가 모수 λ(사건의 평균 발생수)에 의존된다면 이 변수는 포아송분포를 따르며 식 3과 같이 나타냅니다.

X ∼ Poisson(λ)(식 3)

이 분포에서 생성되는 표본공간은 Sx = {0, 1, 2, · · · }입니다.

λ = 5의 경우 포아송 확률질량함수은 scipy.stats.possion 클래스의 메소드 .pmf(확률변수, λ)를 사용할 수 있습니다.

stats.poisson.pmf(range(5), 5)
array([0.00673795, 0.03368973, 0.08422434, 0.1403739 , 0.17546737])

포아송 분포는 유일한 매개변수 λ에 의존합니다. 그림 1은 λ에 따른 분포의 변화를 나타낸 것입니다.

그림 1. λ에 따른 포아송 분포의 변화.
x=range(1, 41)
p=[1, 5, 10, 30]
pmf={}
for i in p:
    pmf[i]=stats.poisson.pmf(x, i)
fig, ax=plt.subplots(figsize=(4,3))
col=["g",'b','r','k']
for i in range(4):
    ax.plot(x, pmf[p[i]], color=col[i], alpha=0.6, label=f"Poisson({p[i]})")
ax.set_xlabel("x")
ax.set_ylabel("Probability")
ax.legend(loc="best", frameon=False)
plt.show()

포아송분포의 기대값과 분산은 식 4에서 나타낸 모멘트 생성함수로부터 계산할 수 있습니다.

\begin{align}M_x(t) & = E\left(e^{tX}\right)\\&=\sum^\infty_{x=0}e^{tx}f(x)\\&=\sum^\infty_{x=0}\frac{\lambda^xe^{-\lambda}e^{tx}}{x!} \\&=e^{-\lambda}\sum^\infty_{x=0}\frac{(\lambda e^{t})^x}{x!}\\&=e^{-\lambda}e^{\lambda e^{t}} \end{align} (식 4)

위 MGF를 사용하여 계산한 기대값과 분산은 식 5와 같습니다.

E(X) = M'x(0) = λ(식 5)
Var(X) = M"x(0) - (E(X))2 = λ

식 5는 sympy의 다양한 함수를 사용하여 계산할 수 있습니다.

l, x, t=symbols("lambda, x, t")
f=exp(-l)*l**x/factorial(x); f

$\frac{\lambda^x e^{-\lambda}}{x!}$

M=Sum(exp(-l)*(l*exp(t))**x/factorial(x), (x, 0, oo)).doit();M
eeλet
E=M.diff(t).subs(t, 0); E
λ
var=M.diff(t, 2).subs(t,0)-E**2
simplify(var)
λ

예 1)

30분간 평균 변화가 50원인 한 주식의 변화는 포아송 분포를 따른다고 가정합시다. 이 모형에 의해 5분간 변화가 없을 확률과 분포의 기대값과 분산을 결정합시다.

이 문제에서 확률변수는 5분 동안의 변화없는 것으로 사건이 0인 확률입니다. 즉, P(X=0)을 결정하는 것입니다. 30분간의 평균 변화가 50이므로 5분의 평균변화(λ)는 식 6과 같습니다.

\begin{align} \lambda &=\frac{50\cdot 5}{30}\\&=\frac{25}{3}\end{align}(식 6)

식 6의 결과인 λ를 모수로 하는 포아송 분포의 형태는 그림 2와 같습니다.

그림 2. 모수 $λ= \frac{25}{3}$인 포아송분포.
x=range(1, 20)
pmf=stats.poisson.pmf(x, 25/3)
fig, ax=plt.subplots(figsize=(4,3))
ax.bar(x, pmf, color="g", alpha=0.6, label=r"Poisson$\left(\frac{25}{3}\right)$")
ax.set_xlabel("x")
ax.set_ylabel("Probability")
ax.legend(loc="best", frameon=False)
plt.show()
p=stats.poisson.pmf(0, 25/3)
round(p, 5)
0.00024
mu, var=stats.poisson.stats(25/3, moments="mv")
print("평균: %.3f, 분산: %.3f"%(mu, var))
평균: 8.333, 분산: 8.333

댓글

이 블로그의 인기 게시물

[Linear Algebra] 유사변환(Similarity transformation)

유사변환(Similarity transformation) n×n 차원의 정방 행렬 A, B 그리고 가역 행렬 P 사이에 식 1의 관계가 성립하면 행렬 A와 B는 유사행렬(similarity matrix)이 되며 행렬 A를 가역행렬 P와 B로 분해하는 것을 유사 변환(similarity transformation) 이라고 합니다. $$\tag{1} A = PBP^{-1} \Leftrightarrow P^{-1}AP = B $$ 식 2는 식 1의 양변에 B의 고유값을 고려한 것입니다. \begin{align}\tag{식 2} B - \lambda I &= P^{-1}AP – \lambda P^{-1}P\\ &= P^{-1}(AP – \lambda P)\\ &= P^{-1}(A - \lambda I)P \end{align} 식 2의 행렬식은 식 3과 같이 정리됩니다. \begin{align} &\begin{aligned}\textsf{det}(B - \lambda I ) & = \textsf{det}(P^{-1}(AP – \lambda P))\\ &= \textsf{det}(P^{-1}) \textsf{det}((A – \lambda I)) \textsf{det}(P)\\ &= \textsf{det}(P^{-1}) \textsf{det}(P) \textsf{det}((A – \lambda I))\\ &= \textsf{det}(A – \lambda I)\end{aligned}\\ &\begin{aligned}\because \; \textsf{det}(P^{-1}) \textsf{det}(P) &= \textsf{det}(P^{-1}P)\\ &= \textsf{det}(I)\end{aligned}\end{align} 유사행렬의 특성 유사행렬인 두 정방행렬 A와 B는 'A ~ B' 와 같...

[sympy] Sympy객체의 표현을 위한 함수들

Sympy객체의 표현을 위한 함수들 General simplify(x): 식 x(sympy 객체)를 간단히 정리 합니다. import numpy as np from sympy import * x=symbols("x") a=sin(x)**2+cos(x)**2 a $\sin^{2}{\left(x \right)} + \cos^{2}{\left(x \right)}$ simplify(a) 1 simplify(b) $\frac{x^{3} + x^{2} - x - 1}{x^{2} + 2 x + 1}$ simplify(b) x - 1 c=gamma(x)/gamma(x-2) c $\frac{\Gamma\left(x\right)}{\Gamma\left(x - 2\right)}$ simplify(c) $\displaystyle \left(x - 2\right) \left(x - 1\right)$ 위의 예들 중 객체 c의 감마함수(gamma(x))는 확률분포 등 여러 부분에서 사용되는 표현식으로 다음과 같이 정의 됩니다. 감마함수는 음이 아닌 정수를 제외한 모든 수에서 정의됩니다. 식 1과 같이 자연수에서 감마함수는 factorial(!), 부동소수(양의 실수)인 경우 적분을 적용하여 계산합니다. $$\tag{식 1}\Gamma(n) =\begin{cases}(n-1)!& n:\text{자연수}\\\int^\infty_0x^{n-1}e^{-x}\,dx& n:\text{부동소수}\end{cases}$$ x=symbols('x') gamma(x).subs(x,4) $\displaystyle 6$ factorial 계산은 math.factorial() 함수를 사용할 수 있습니다. import math math.factorial(3) 6 a=gamma(x).subs(x,4.5) a.evalf(3) 11.6 simpilfy() 함수의 알고리즘은 식에서 공통사항을 찾아 정리하...

sympy.solvers로 방정식해 구하기

sympy.solvers로 방정식해 구하기 대수 방정식을 해를 계산하기 위해 다음 함수를 사용합니다. sympy.solvers.solve(f, *symbols, **flags) f=0, 즉 동차방정식에 대해 지정한 변수의 해를 계산 f : 식 또는 함수 symbols: 식의 해를 계산하기 위한 변수, 변수가 하나인 경우는 생략가능(자동으로 인식) flags: 계산 또는 결과의 방식을 지정하기 위한 인수들 dict=True: {x:3, y:1}같이 사전형식, 기본값 = False set=True :{(x,3),(y,1)}같이 집합형식, 기본값 = False ratioal=True : 실수를 유리수로 반환, 기본값 = False positive=True: 해들 중에 양수만을 반환, 기본값 = False 예 $x^2=1$의 해를 결정합니다. solve() 함수에 적용하기 위해서는 다음과 같이 식의 한쪽이 0이 되는 형태인 동차식으로 구성되어야 합니다. $$x^2-1=0$$ import numpy as np from sympy import * x = symbols('x') solve(x**2-1, x) [-1, 1] 위 식은 계산 과정은 다음과 같습니다. $$\begin{aligned}x^2-1=0 \rightarrow (x+1)(x-1)=0 \\ x=1 \; \text{or}\; -1\end{aligned}$$ 예 $x^4=1$의 해를 결정합니다. solve() 함수의 인수 set=True를 지정하였으므로 결과는 집합(set)형으로 반환됩니다. eq=x**4-1 solve(eq, set=True) ([x], {(-1,), (-I,), (1,), (I,)}) 위의 경우 I는 복소수입니다.즉 위 결과의 과정은 다음과 같습니다. $$x^4-1=(x^2+1)(x+1)(x-1)=0 \rightarrow x=\pm \sqrt{-1}, \; \pm 1=\pm i,\; \pm1$$ 실수...