이산확률분포
내용
확률분포는 샘플공간의 각 값과 그에 대응하는 확률로 구현됩니다. 즉, 변수의 값들과 확률 사이의 관계를 함수로 표현할 수 있습니다. 그 변수가 이산변수(discrete variable)일 경우 각 값에 대응하는 확률은 대상이 되는 값들의 빈도를 비율로 나타냅니다. 이 경우 한 지점에 대응하는 확률을 표현할 수 있으며 확률질량함수 (Probability Mass Function, PMF)라고 합니다. 그러나 연속변수(continuous variable)의 경우 한 지점에 대응하는 확률을 계산할 수 없습니다. 대신에 일정한 구간에 대응하는 확률은 계산될 수 있습니다. 즉, 전체에 대해 일정한 구간의 밀도로 확률을 표현합니다. 이 경우의 확률함수를 확률밀도함수 (Probability Density Function, PDF)라고 합니다. 두 경우 모두 일정한 변수구간에서의 각 확률의 합을 확률누적분포함수 (Cumulative Distribution Function, CDF)라고 합니다.
확률함수는 변수에 대응하는 확률의 집중, 퍼짐등의 정보를 포함합니다. 이러한 정보에 따라 나타나는 특징적인 형태를 확률분포(probability distribution)라고 합니다. 데이터의 수가 증가할수록 분포는 특정한 형태로 수렴합니다. 그 특정한 분포의 형태는 몇 가지의 확률질량함수 또는 확률밀도함수로 나타낼 수 있습니다. 이러한 분포와 함수들은 여러 통계 분석의 근거를 제공합니다.
확률질량함수(PMF)
표본공간(S)의 각 사건(x)에 대응하는 확률(p)을 함수로 나타낼 수 있습니다. 즉, 확률은 사건에 의존하는 함수로 p(x) = f(x)의 형태로 나타낼 수 있습니다(식 1).
| S = {x1, x2, x3, …} | (식 1) |
| f(xi) = P(X = xi), i = 1, 2, 3, … |
표본공간이 이산변수로 구성된 경우 위 함수를 확률질량함수(Probability mass function, PMF)라고 합니다.
예 1)
동전을 2번 던지는 경우 앞면의 수를 확률변수로 하는 시행에서 S와 확률질량함수(PMF)를 결정해봅니다.
표본 공간은 itertools.product() 함수를 적용하여 생성합니다.
import numpy as np import pandas as pd import matplotlib.pyplot as plt plt.rcParams['font.family'] ='NanumGothic' plt.rcParams['axes.unicode_minus'] =False from sympy import * import itertools
x=[1, 0] c=list(itertools.product(x, repeat=2)); c
[(1, 1), (1, 0), (0, 1), (0, 0)]
S=[sum(i) for i in c]; S
[2, 1, 1, 0]
uni, fre=np.unique(S, return_counts=True) uni, fre
(array([0, 1, 2]), array([1, 2, 1]))
p=fre/np.sum(fre) print(p)
[0.25 0.5 0.25]
그림 1은 위 예의 결과를 시각화 한것입니다.
fig, ax=plt.subplots(figsize=(4,3))
ax.bar(uni, p, color="g", alpha=0.3)
ax.set_xlabel("# of head(H)")
ax.set_ylabel("PMF")
ax.set_yticks(p)
ax.set_xticks(uni)
plt.show()
예 2)
주사위 두개를 시행해서 각 값의 합을 확률변수로 하면 확률변수의 범위 ?
ca=list(itertools.product(range(1, 7), repeat=2)) S=[sum(i) for i in ca] print(S)
[2, 3, 4, 5, 6, 7, 3, 4, 5, 6, 7, 8, 4, 5, 6, 7, 8, 9, 5, 6, 7, 8, 9, 10, 6, 7, 8, 9, 10, 11, 7, 8, 9, 10, 11, 12]
uni, fre=np.unique(S, return_counts=True) print(uni) print(fre)
[ 2 3 4 5 6 7 8 9 10 11 12] [1 2 3 4 5 6 5 4 3 2 1]
fresum=sum(fre) p=[i/fresum for i in fre] print(np.array(p).round(3))
[0.028 0.056 0.083 0.111 0.139 0.167 0.139 0.111 0.083 0.056 0.028]
fig, ax=plt.subplots(figsize=(4,3))
ax.bar(uni, p, color="g", alpha=0.3)
ax.set_xlabel("Sum of number")
ax.set_ylabel("PMF")
ax.set_yticks(np.array(p).round(3))
ax.set_xticks(uni)
plt.show()
예 3)
결함이 없는 동전 던지기에서 앞면이 나올 확률이 p인 경우에서 처음으로 앞면이 나올 경우까지의 던진 횟수를 랜덤변수 Y로 하면 $p =\frac{1}{2}$일 경우 Y의 확률분포를 결정하고 P(2 ≤ x ≤ 5)를 계산하시오.
처음으로 앞면이 나오는 횟수를 확률변수로 하면 표본공간 S = {0, 1, 2, …}가 되며 각각의 확률변수에 대한 확률질량함수는 식 2와 같이 나타낼 수 있습니다.
| f(1) = P(X = 1) = P(H) = p | (식 2) |
| f(2) = P(X = 2) = P(TH) = (1 − p)p | |
| f(3) = P(X = 3) = p(T T H) = (1 − p)2p | |
| ⋮ | |
| f(y) = P(X = x) = P(T T · · · H) = (1 − p)x−1p |
P(2 ≤ x ≤ 5)의 계산은 식 3으로 표현할 수 있습니다.
| $$P(2\le c \le 5)=\sum^5_{x=2} p(1-p)^{x-1}$$ | (식 3) |
p=Rational(1/2) Px=np.array([(1-p)**(i-1)*p for i in range(2, 6)]) print(Px)
[1/4 1/8 1/16 1/32]
P=np.sum(Px) print(P)
15/32
누적분포함수(Cumulative Distribution Function, CDF)
확률질량함수는 어떤 한 점에 대한 확률값을 나타냅니다. 이산변수의 경우 변수 자체가 셀수 있는 양이므로 이러한 측정이 가능하지만 연속변수일 경우 한 점을 특정하기가 어렵기 때문에 확률질량함수를 정의할 수 없습니다. 대신에 확률밀도함수를 사용합니다. 그러나 어떤 범위에 대한 확률은 이산과 연속변수 모두에서 계산이 가능합니다. 즉, 여러 점 또는 특정한 범위에서는 모든 확률을 합하여 표현할 수 있습니다. 이것을 누적분포함수 (Cumulative Distribution Function, CDF)라고 합니다.
확률변수 X의 누적분포함수(CDF)는 식 4와 같이 정의합니다.
| F(x) = P(X ≤ x), ∀x ∈ X(or S) | (식 4) |
| S: 표본공간 |
예 4)
동전 두개를 던지는 시행에서 앞면의 횟수를 확률변수 X라 하면 SX = {0, 1, 2} 가 됩니다. 이 경우의 누적분포함수를 결정합니다.
ca=list(itertools.product([0, 1], repeat=2)) #0:뒷면, 1: 앞면 ca
[(0, 0), (0, 1), (1, 0), (1, 1)]
S=[sum(i) for i in ca]; S
[0, 1, 1, 2]
uni, fre=np.unique(S, return_counts=True) re=pd.DataFrame([uni, fre, fre/fre.sum()], index=["x","Freq", "prop"]) re
| 0 | 1 | 2 | |
| x | 0.00 | 1.0 | 2.00 |
| Freq | 1.00 | 2.0 | 1.00 |
| prop | 0.25 | 0.5 | 0.25 |
위 결과는 식 5와 같이 정리 됩니다.
| $$f(x)= \begin{cases}P(X=0)=\frac{1}{4}\\P(X=1)=\frac{1}{2}\\P(X=2)=\frac{1}{4} \end{cases}$$ | (식 5) |
확률질량함수는 식 6과 같이 각 범위의 상한까지 누적계산 할 수 있습니다. 이 계산 결과는 일정범위까지의 누적 분포함수를 나타냅니다.
| $$F(x)= \begin{cases}P(X\le 0)=\frac{1}{4}\\P(X\le 1)=\frac{1}{4}+\frac{1}{2}=\frac{3}{4}\\P(X\le 2)=\frac{1}{4}+\frac{1}{2}+\frac{1}{4}=1 \end{cases}$$ | (식 6) |
다음 코드에서 객체의 누적합을 계산하기 위해 numpy 모듈의 cumsum() 함수를 사용
하였습니다.
p_cum=np.cumsum(re.iloc[2,:]);p_cum
0 0.25 1 0.75 2 1.00 Name: prop, dtype: float64
그림 3은 위 시행에 대한 확률함수와 누적확률을 나타낸 것입니다.
fig, ax=plt.subplots(figsize=(4,3))
ax.bar(uni, re.values[2,:], color="g", alpha=0.3, label="PMF")
ax.step(uni, p_cum, color="b", label="CDF")
ax.set_xlabel("x")
ax.set_ylabel("Probability")
ax.set_yticks([0, 0.25, 0.5, 0.75, 1])
ax.set_xticks(re.values[0,:])
ax.legend(loc="best")
plt.show()
댓글
댓글 쓰기