기본 콘텐츠로 건너뛰기

[ML] 결정트리(Decision Tree) 모델

[data analysis] 초기하분포(Hypergeometric distribution)

초기하분포(Hypergeometric distribution)

초기하분포(Hypergeometric distribution)란 N개 중에 n번 비복원 추출하는 경우 x번 성공확률의 분포이다. 예를 들어 5개의 파란공과 3개의 빨간공이 포함되어 있는 주머니에서 2개의 공을 선택하면 그 공이 모두 파란 공일 확률은식 1과 같이 계산할 수 있습니다.

$$\frac{\binom{5}{0} \binom{3}{2}}{\binom{8}{2}}$$(식 1)
p=special.comb(5,0)*special.comb(3,2)/special.comb(8, 2)
round(p, 3)
0.107

이 시행은 모집단에서 선택할 공의 수에 대한 조건과 최종 성공을 위한 조건을 만족하여야 합니다. 즉, 두 가지 조건에 따른 시행은 선택된 파란공의 수가 랜덤변수(X)로 하면 표본공간은 Sx = {0, 1, 2}로 정의할 수 있습니다.

각 변수에 대응하는 확률의 변화는 초기하분포에 부합하며 식 2와 같이 나타냅니다.

X ∼ hypergeom(N, m, n)(식 2)
N : 모집단 수
m : 성공경우의 총수
n : 총 시행횟수

식 1에서 확률변수 x의 변화에 의해 생성되는 초기하 분포는 hypergeom(8, 3, 2)으로 나타낼 수 있습니다. 이 식을 확률변수 x에 대해 일반화한 초기하분포의 확률질량함수는 식 3과 같이 정의됩니다.

\begin{align}f(x) &= P(X=x)\\&=\frac{\binom{m}{x} \binom{N-m}{n-x}}{\binom{N}{n}} \end{align}(식 3)

초기하분포의 통계량들은 scipy.stats 모듈의 hypergeom() 클래스로 계산할 수 있습니다.

x=2; M=8; n=3; N=2
round(stats.hypergeom.pmf(x, M, n, N),3)
0.107

확률변수 x에 대해 PMF를 계산하면 다음과 같습니다.

p=stats.hypergeom.pmf([0, 1, 2], M, n, N)
np.around(p, 3)
array([0.357, 0.536, 0.107])

확률함수(식 3)으로 부터 기대값을 유도하면 식 4와 같습니다. 식 4에서 m을 A 그리고 모집단 중 A를 제외한 나머지 부분을 B로 표시하였습니다.

\begin{align}E(X)&=\sum^n_{x=0}\frac{\binom{A}{x} \binom{B}{n-x}}{\binom{A+B}{n}}\\ &=\sum^n_{x=0}\frac{A\binom{A-1}{x-1} \binom{B}{n-x}}{\binom{(A+B)-1}{n-1}\frac{A+B}{n}}\\ &=\frac{An}{A+B}\sum^n_{x=0}\frac{\binom{A-1}{x-1} \binom{B}{n-x}}{\binom{(A+B)-1}{n-1}}\\ &=\frac{An}{A+B}\\&=n\frac{m}{N}\\&=np\\\because\;&\sum^n_{x=0}\frac{\binom{A-1}{x-1} \binom{B}{n-x}}{\binom{(A+B)-1}{n-1}}=1(\text{Total prob.})\end{align}(식 4)

식 4 의 기대값을 사용하여 분산을 계산하면 식 5와 같습니다.

\begin{align} Var(x) &=E(X^2) -(E(X))^2\\&=np(1-p)\frac{N-m}{N-1} \end{align}(식 5)

예 1)

파란공 50, 빨간공 30 중에서 파란공을 20개까지 선택할 확률 분포를 시각화 합니다.

조건에 따른 각 확률은 다음과 같습니다.

M=80; n=50; N=20
re=stats.hypergeom.pmf(range(21), M, n, N)
print(np.around(re, 3))
[0.    0.    0.    0.    0.    0.    0.001 0.003 0.013 0.039 0.087 0.151
 0.201 0.204 0.158 0.091 0.038 0.011 0.002 0.    0.   ]

위 결과를 시각화하면 그림 1과 같습니다.

그림 1 hypergeom(80, 50, 20)의 PMF.
fig, ax=plt.subplots(figsize=(4,3))
ax.bar(range(21), re, color="g", label="hypergeom(80, 50, 20)")
ax.set_xlabel("x")
ax.set_ylabel("Probability")
ax.set_ylim([0, 0.25])
ax.legend(loc="best", frameon=False)
plt.show()

예 2)

위 예제의 조건 M=80, n=50, N=20을 가진 시행에서 기대값과 분산을 계산합니다.

E=k*n/M
E.subs({M:80, n:50, N:20, k:20}).evalf(3)
12.5
var=E*(M-n)*(M-k)/(M*(M-1))
var.subs({M:80, n:50, N:20, k:20}).evalf(3)
3.56
stats.hypergeom.stats(80, 20, 50,  moments="mv")
(array(12.5), array(3.56012658))

예 3)

4개의 불량품이 포함되어 있는 50개의 제품에서 랜덤으로 5개를 추출할 경우 선택되는 정상품의 갯수가 랜덤변수 X가 됩니다. X의 평균과 분산을 결정합니다.

X ~ hypergeom(50, 5, 4)

stats.hypergeom.stats(50, 5, 4, moments="mv")
(array(0.4), array(0.33795918))

댓글

이 블로그의 인기 게시물

[Linear Algebra] 유사변환(Similarity transformation)

유사변환(Similarity transformation) n×n 차원의 정방 행렬 A, B 그리고 가역 행렬 P 사이에 식 1의 관계가 성립하면 행렬 A와 B는 유사행렬(similarity matrix)이 되며 행렬 A를 가역행렬 P와 B로 분해하는 것을 유사 변환(similarity transformation) 이라고 합니다. $$\tag{1} A = PBP^{-1} \Leftrightarrow P^{-1}AP = B $$ 식 2는 식 1의 양변에 B의 고유값을 고려한 것입니다. \begin{align}\tag{식 2} B - \lambda I &= P^{-1}AP – \lambda P^{-1}P\\ &= P^{-1}(AP – \lambda P)\\ &= P^{-1}(A - \lambda I)P \end{align} 식 2의 행렬식은 식 3과 같이 정리됩니다. \begin{align} &\begin{aligned}\textsf{det}(B - \lambda I ) & = \textsf{det}(P^{-1}(AP – \lambda P))\\ &= \textsf{det}(P^{-1}) \textsf{det}((A – \lambda I)) \textsf{det}(P)\\ &= \textsf{det}(P^{-1}) \textsf{det}(P) \textsf{det}((A – \lambda I))\\ &= \textsf{det}(A – \lambda I)\end{aligned}\\ &\begin{aligned}\because \; \textsf{det}(P^{-1}) \textsf{det}(P) &= \textsf{det}(P^{-1}P)\\ &= \textsf{det}(I)\end{aligned}\end{align} 유사행렬의 특성 유사행렬인 두 정방행렬 A와 B는 'A ~ B' 와 같

[matplotlib] 히스토그램(Histogram)

히스토그램(Histogram) 히스토그램은 확률분포의 그래픽적인 표현이며 막대그래프의 종류입니다. 이 그래프가 확률분포와 관계가 있으므로 통계적 요소를 나타내기 위해 많이 사용됩니다. plt.hist(X, bins=10)함수를 사용합니다. x=np.random.randn(1000) plt.hist(x, 10) plt.show() 위 그래프의 y축은 각 구간에 해당하는 갯수이다. 빈도수 대신 확률밀도를 나타내기 위해서는 위 함수의 매개변수 normed=True로 조정하여 나타낼 수 있다. 또한 매개변수 bins의 인수를 숫자로 전달할 수 있지만 리스트 객체로 지정할 수 있다. 막대그래프의 경우와 마찬가지로 각 막대의 폭은 매개변수 width에 의해 조정된다. y=np.linspace(min(x)-1, max(x)+1, 10) y array([-4.48810153, -3.54351935, -2.59893717, -1.65435499, -0.70977282, 0.23480936, 1.17939154, 2.12397372, 3.0685559 , 4.01313807]) plt.hist(x, y, normed=True) plt.show()

R 미분과 적분

내용 expression 미분 2차 미분 mosaic를 사용한 미분 적분 미분과 적분 R에서의 미분과 적분 함수는 expression()함수에 의해 생성된 표현식을 대상으로 합니다. expression expression(문자, 또는 식) 이 표현식의 평가는 eval() 함수에 의해 실행됩니다. > ex1<-expression(1+0:9) > ex1 expression(1 + 0:9) > eval(ex1) [1] 1 2 3 4 5 6 7 8 9 10 > ex2<-expression(u, 2, u+0:9) > ex2 expression(u, 2, u + 0:9) > ex2[1] expression(u) > ex2[2] expression(2) > ex2[3] expression(u + 0:9) > u<-0.9 > eval(ex2[3]) [1] 0.9 1.9 2.9 3.9 4.9 5.9 6.9 7.9 8.9 9.9 미분 D(표현식, 미분 변수) 함수로 미분을 실행합니다. 이 함수의 표현식은 expression() 함수로 생성된 객체이며 미분 변수는 다음 식의 분모의 변수를 의미합니다. $$\frac{d}{d \text{변수}}\text{표현식}$$ 이 함수는 어떤 함수의 미분의 결과를 표현식으로 반환합니다. > D(expression(2*x^3), "x") 2 * (3 * x^2) > eq<-expression(log(x)) > eq expression(log(x)) > D(eq, "x") 1/x > eq2<-expression(a/(1+b*exp(-d*x))); eq2 expression(a/(1 + b * exp(-d * x))) > D(eq2, "x") a * (b * (exp(-d * x) * d))/(1 + b