기본 콘텐츠로 건너뛰기

[ML] 결정트리(Decision Tree) 모델

[data analysis] 랜덤변수들의 결합

랜덤변수들의 결합

실제 자료 분석에서 두 개 이상의 변수들 사이의 관계가 분석 대상이 되는 경우가 빈번합니다. 예를 들어 암과 담배의 관계나 주가와 이자의 관계를 파악하기 위해 다양한 변수들이 필요합니다. 이러한 다변수의 상황에서 확률과 다양한 통계량들의 산출 과정은 단변수에서의 과정과 유사합니다.

예 1)

A 학급 12명의 학생들 중 축구 선수가 3명이고 야구 선수가 4 명 있습니다. 다른 학급과 어떤 운동경기를 위해 3명을 선출하는 경우 모두 선수 출신 학생일 확률?

축구선수의 변수를 X, 야구선수의 변수를 Y, 나머지를 Z이라 하면 이 분포의 확률은 식 1과 같이 계산됩니다.

\begin{align}P(X=x,\;Y=y,\;Z=z)&=\frac{\binom{3}{x} \binom{4}{y} \binom{5}{z}}{\binom{12}{3}}\\x+y+z&=12 \end{align} (식 1)

itertools 모듈의 함수 itertools.combinations(data, r)는 조합의 모든 내용을 반환합니다. 즉, 함수는 data 중에 r을 뽑는 모든 경우를 반환합니다. 이 함수를 사용하여 x, y, z으로 구성된 데이터에서 3명을 선택되는 모든 경우를 나타냅시다.

import itertools
data=['x']*3+['y']*4+['z']*5; data
['x', 'x', 'x', 'y', 'y', 'y', 'y', 'z', 'z', 'z', 'z', 'z']
case=list(itertools.combinations(data, r=3))
case[:3]
[('x', 'x', 'x'), ('x', 'x', 'y'), ('x', 'x', 'y')]
tot=len(case); tot
220

위 모든 경우에서 z이 포함되지 않은 경우의 수는 다음과 같이 계산할 수 있습니다.

n=0
for i in case:
    if 'z' not in i:
        n += 1
n
35
p=n/tot
round(p, 3)
0.159

위 결과의 최종 확률은 모든 경우에서 선수만 뽑는 경우 수의 비율은 다음과 같습니다. 다음은 이 비율을 계산하는 함수를 작성하여 확률을 다시 계산한 것입니다.

from scipy imort special 
def pmf1(x, y):
    return(special.comb(3, x)*special.comb(4, y)/special.comb(12, 3))
p=0
for i in range(4):
    for j in range(5):
        if i+j==3:
            p = p+pmf1(i, j)
round(p, 3)
0.159

예 2)

두 연속랜덤변수 X, Y의 확률밀도함수가 다음과 같습니다.

f(x, y) = 2 exp(-x)exp(-2y), 0 < x, y < ∞

다음을 계산합니다.

  1. P(X > 1, Y < 1)
  2. P(X < Y)
  3. P(X < a),   a > 0

이 확률밀도함수에 의한 총 확률은 1이 됩니다(식 2). 즉, 이 함수를 (0, ∞) 구간을 적분한 것과 같습니다.

$$\int^\infty_0 \int^\infty_0 2\exp(-x)\exp(-2y)\, dxdy$$ (식 2)
x, y=symbols('x, y')
f=2*exp(-x)*exp(-2*y)
p_total=f.integrate((x, 0, oo), (y, 0, oo)); p_total
1

a. P(X > 1, Y < 1)

p_1=f.integrate((x, 1, oo), (y, 0, 1))
print(p_1)
-exp(-3) + exp(-1)
p_1.evalf(3)
0.318

b. P(X < Y)

p_2=f.integrate((x, 0, y), (y, 0, oo))
print(p_2)
1/3

c. P(X < a),   a > 0

a=symbols("a", positive=True)
p_3=f.integrate((x, 0, a), (y, 0, oo))
print(p_3)
1 - exp(-a)

예 3)

두 랜덤변수 X, Y가 독립이고 각각의 확률밀도함수가 다음과 같다면 랜덤변수 $\frac{X}{Y}$의 결합확률밀도함수?

f(x) = exp(-x), f(y) = exp(-y),  x, y > 0

x, y는 독립이므로 두 확률변수의 결합확률밀도함수는 두 함수의 곱과 같습니다(식 3).

f(x, y) = exp(-x)exp(-y),  x, y > 0 (식 3)

두 확률변수의 조정에 의한 새로운 확률변수를 a라고 하면 식 4와 같이 x, y 사이의 관계가 성립됩니다.

\begin{align}\frac{X}{Y}= a \;\rightarrow\; X=aY & \quad a>0 \\0< X \le aY & \quad 0 < Y \end{align}(식 4)

그러므로 이 확률변수 a의 임의 구간에서의 누적 확률은 식 5와 같이 나타낼 수 있습니다.

\begin{align}P\left(\frac{X}{Y} =a \right)&=F_\frac{X}{y} (a) >0\\&=\int^\infty_0 \int^{aY}_0 \exp(-x)\exp(-y) \, dxdy \end{align} (식 5)

식 5에 의해 계산되는 누적확률의 미분 결과가 확률변수 a에 대한 확률밀도함수가 됩니다.

a, x, y=symbols("a, x, y", positive=True)
f=exp(-x)*exp(-y)
F=f.integrate((x, 0, a*y), (y, 0, oo))
print(F)
1 - 1/(a + 1)
f_a=F.diff(a)
print(f_a)
(a + 1)**(-2)

예 4)

한 마을의 아이를 가진 가족 현황은 다음과 같습니다.

표 2.6.1 마을의 가족 현황
가족 당 아이의 수 No 1 2 3
비율 15% 20% 35% 30%

각 아이가 남자 또는 여자가 될 확률은 동일합니다. 그러므로 이에 대한 변수는 독립입니다. 이 마을에서 한 가족을 선택한다면 그 가족내의 남아의 수(B)와 여아의 수(G)에 모든 경우의 확률?

마을의 가족의 선택의 변수, 남아 또는 여아에 대한 변수 모두 랜덤변수이고 두 변수는 독립이므로 이 두변수에 대한 확률함수는 식 6과 같이 각 확률의 곱으로 정의할 수 있습니다.

pmf = P(대상 가족) × P(남자 또는 여자)(식 6)

남아와 여아에 대한 확률은 확률 $\frac{1}{2}$인 베르누이 실험으로 간주할 수 있으며 총 샘플공간(S)은 다음과 같습니다.

S=[]
for i in range(4):
    for j in range(4):
        if i+j < 4:
            S.append((i, j))
print(S)
[(0, 0), (0, 1), (0, 2), (0, 3), (1, 0), (1, 1), (1, 2), (2, 0), (2, 1), (3, 0)]

위 표본 공간에서 (1,1)은 (B=1,G=1 | Child=2)을 의미합니다. 그러므로 식 7과 같이 계산됩니다.

\begin{align}P(B=1,\, G=1 \vert C=2)&=\frac{P(B=1,\, G=1)}{P(C=2)} \\ P(B=1,\, G=1)&=P(B=1,\, G=1 \vert C=2)P(C=2)\\&=\binom{2}{1}\left(\frac{1}{2}\right)\left(\frac{1}{2}\right)^{2-1}P(C=2)\end{align} (식 7)

식 7에서 C : Child, G : Girl, B : Boy 이며 이 계산과정을 근거로 확률함수 f(x)는 식 8과 같이 정의할 수 있습니다.

\begin{align}&f(g) =\binom{C}{g}\left(\frac{1}{2}\right)^g\left(\frac{1}{2}\right)^{C-g}P(C=2)\quad 0\le C\; G\le 3\\&\qquad g:\;\text{여아의 수}\end{align} (식 8)

물론 위의 경우에서 여아의 수(g)를 남아의 수(b)로 교체해도 결과는 같습니다.

pc={0:0.15, 1:0.2, 2:0.35, 3:0.3}
ca=[]
for i in pc.keys():
  for g in range(i+1):
    p=special.comb(i, g)*(1/2)**(i-g)*(1/2)**g*pc[i]
    ca.append((i-g, g, p))
re=pd.DataFrame(ca, columns=['boy','girl', 'pmf'])
re
boy girl pmf
0 0 0 0.15
1 1 0 0.10

표본공간의 모든 확률을 나타내기 위해 위 결과를 근거로 교차표를 작성합니다. 이 표를 작성하기 위해 pd객체.pivot_table() 함수를 적용합니다.

rePivot=re.pivot_table('pmf', 'girl','boy', aggfunc="sum",margins=True)
rePivot
boy 0 1 2 3 All
girl
0 0.1500 0.1000 0.0875 0.0375 0.3750
1 0.1000 0.1750 0.1125 NaN 0.3875
2 0.0875 0.1125 NaN NaN 0.2000
3 0.0375 NaN NaN NaN 0.0375
All 0.3750 0.3875 0.2000 0.0375 1.0000

예 5)

예 4로 부터 다음을 결정합니다.

  1. P(G=1)
  2. P(B=1 | G=1)

a. 식 2.6.9와 같이 계산합니다.

P(G = 1) = P(G = 1, B = 0) + P(G = 1, B = 1) + P(G = 1, B = 2) + P(G = 1, B = 3) (식 9)
round(rePivot.iloc[1,-1], 3)
0.387

b. 식 10과 같이 계산합니다.

$$P(B = 1|G = 1) = \frac{P(B = 1, G = 1)}{P(G = 1)}$$(식 10)
round(rePivot.iloc[1, 1]/rePivot.iloc[1,-1], 3)
0.452

예 6)

랜덤변수 X, Y의 결합확률밀도함수가 다음과 같습니다

$$f(x, y) = \frac{12}{5}x(2 − x − y), 0 \lt x, y \lt 1$$

Y = y의 조건에서의 X의 확률밀도함수를 계산?

조건확률은 식 11과 같이 계산합니다.

$$P(X =x | Y =y) = \frac{P(x, y)}{P(y)}$$(식 11)

P(y)는 결합확률밀도 함수에서 y를 고정하고 x에 따라 적분한 것입니다(식 12).

$$\int^1_0 f(x, \, y)\, dx=\int^1_0 \frac{12}{5}x(2 − x − y)\, dx$$ (식 12)
x, y=symbols("x y")
f=Rational(12,5)*x*(2-x-y)
py=f.integrate((x, 0, 1))
py

$\displaystyle \frac{8}{5} - \frac{6 y}{5}$

px_y=f/py
px_y

$\displaystyle \frac{12 x \left(- x - y + 2\right)}{5 \cdot \left(\frac{8}{5} - \frac{6 y}{5}\right)}$

댓글

이 블로그의 인기 게시물

[Linear Algebra] 유사변환(Similarity transformation)

유사변환(Similarity transformation) n×n 차원의 정방 행렬 A, B 그리고 가역 행렬 P 사이에 식 1의 관계가 성립하면 행렬 A와 B는 유사행렬(similarity matrix)이 되며 행렬 A를 가역행렬 P와 B로 분해하는 것을 유사 변환(similarity transformation) 이라고 합니다. $$\tag{1} A = PBP^{-1} \Leftrightarrow P^{-1}AP = B $$ 식 2는 식 1의 양변에 B의 고유값을 고려한 것입니다. \begin{align}\tag{식 2} B - \lambda I &= P^{-1}AP – \lambda P^{-1}P\\ &= P^{-1}(AP – \lambda P)\\ &= P^{-1}(A - \lambda I)P \end{align} 식 2의 행렬식은 식 3과 같이 정리됩니다. \begin{align} &\begin{aligned}\textsf{det}(B - \lambda I ) & = \textsf{det}(P^{-1}(AP – \lambda P))\\ &= \textsf{det}(P^{-1}) \textsf{det}((A – \lambda I)) \textsf{det}(P)\\ &= \textsf{det}(P^{-1}) \textsf{det}(P) \textsf{det}((A – \lambda I))\\ &= \textsf{det}(A – \lambda I)\end{aligned}\\ &\begin{aligned}\because \; \textsf{det}(P^{-1}) \textsf{det}(P) &= \textsf{det}(P^{-1}P)\\ &= \textsf{det}(I)\end{aligned}\end{align} 유사행렬의 특성 유사행렬인 두 정방행렬 A와 B는 'A ~ B' 와 같

[matplotlib] 히스토그램(Histogram)

히스토그램(Histogram) 히스토그램은 확률분포의 그래픽적인 표현이며 막대그래프의 종류입니다. 이 그래프가 확률분포와 관계가 있으므로 통계적 요소를 나타내기 위해 많이 사용됩니다. plt.hist(X, bins=10)함수를 사용합니다. x=np.random.randn(1000) plt.hist(x, 10) plt.show() 위 그래프의 y축은 각 구간에 해당하는 갯수이다. 빈도수 대신 확률밀도를 나타내기 위해서는 위 함수의 매개변수 normed=True로 조정하여 나타낼 수 있다. 또한 매개변수 bins의 인수를 숫자로 전달할 수 있지만 리스트 객체로 지정할 수 있다. 막대그래프의 경우와 마찬가지로 각 막대의 폭은 매개변수 width에 의해 조정된다. y=np.linspace(min(x)-1, max(x)+1, 10) y array([-4.48810153, -3.54351935, -2.59893717, -1.65435499, -0.70977282, 0.23480936, 1.17939154, 2.12397372, 3.0685559 , 4.01313807]) plt.hist(x, y, normed=True) plt.show()

R 미분과 적분

내용 expression 미분 2차 미분 mosaic를 사용한 미분 적분 미분과 적분 R에서의 미분과 적분 함수는 expression()함수에 의해 생성된 표현식을 대상으로 합니다. expression expression(문자, 또는 식) 이 표현식의 평가는 eval() 함수에 의해 실행됩니다. > ex1<-expression(1+0:9) > ex1 expression(1 + 0:9) > eval(ex1) [1] 1 2 3 4 5 6 7 8 9 10 > ex2<-expression(u, 2, u+0:9) > ex2 expression(u, 2, u + 0:9) > ex2[1] expression(u) > ex2[2] expression(2) > ex2[3] expression(u + 0:9) > u<-0.9 > eval(ex2[3]) [1] 0.9 1.9 2.9 3.9 4.9 5.9 6.9 7.9 8.9 9.9 미분 D(표현식, 미분 변수) 함수로 미분을 실행합니다. 이 함수의 표현식은 expression() 함수로 생성된 객체이며 미분 변수는 다음 식의 분모의 변수를 의미합니다. $$\frac{d}{d \text{변수}}\text{표현식}$$ 이 함수는 어떤 함수의 미분의 결과를 표현식으로 반환합니다. > D(expression(2*x^3), "x") 2 * (3 * x^2) > eq<-expression(log(x)) > eq expression(log(x)) > D(eq, "x") 1/x > eq2<-expression(a/(1+b*exp(-d*x))); eq2 expression(a/(1 + b * exp(-d * x))) > D(eq2, "x") a * (b * (exp(-d * x) * d))/(1 + b