기본 콘텐츠로 건너뛰기

[ML] 결정트리(Decision Tree) 모델

[data analysis] 이항정리와 큰수의 법칙

이항정리와 큰수의 법칙

조합(combination)은 미지수들로 구성된 다항식의 계수를 결정하기 위해 적용됩니다. 예를 들어 (a + b)2의 경우를 전개하면 a2 + 2ab + b2이 됩니다. 이 전개된 식의 각 계수들은 표 1과 같이 두 항 a, b중에 b를 0번, 1번, 그리고 2번 선택하는 경우의 수와 같습니다.

표 1 (a + b)2의 각 계수에 대한 조합표현
선택 횟수 결과표현
02C0 = 1 a2
12C1 = 2 2ab
22C2 =1b2

표 1과 같이 이항식을 전개하는 과정에 조합을 적용하는 것을 이항정리라고 하며 식 1과 같이 일반화합니다.

[이항정리(Binomial Theory)]

순서를 고려하지 않고 n개 중에서 서로 다른 k개를 선택하는 경우로 식 1과 같이 계산되며 이 정의를 이항정리라고 합니다.

$$(x+y)^n=\sum^n_{k=0} \binom{n}{k}x^{n-k}y^k$$ (식 1)

예를 들어 위 식을 사용하여 (x + y)3에서 x2y의 계수는 다음과 같이 결정할 수 있습니다.

special.comb(3,1)
3.0

예 1)

학생 20명을 정원이 6, 4, 5, 5 명인 방 4개를 배정할 수 있는 경우의 수는 결정합니다.

순서를 고려하지 않고 선택하는 경우로 조합입니다. 식 2과 같이 선택할 모집단과 샘플의 크기가 고려하여 계산합니다.

\begin{align}&\binom{20}{6}\binom{14}{4}\binom{10}{5}\binom{5}{5}\\&=\frac{20!}{6!4!}\frac{14!}{4!10!}\frac{10!}{5!5!}\frac{5!}{5!0!}\\&=\frac{20!}{6!4!5!5!}\\&=\binom{20}{6\, 4\, 5\, 5}\end{align} (식 2)
num=[6, 4, 5,5]
n=20
total_case=1
for i in num:  
    total_case *= special.comb(n, i)
    n -=i
total_case  
9777287520.0

조합결과를 반환하는 함수 scipy.special.comb(n, k)으로 위의 반복계산을 대신할 수 있습니다. 다음 코드와 같이 함수의 인수인 n과 k는 각각 리스트 형태로 여러개의 수들을 전달할 수 있습니다.

re=scipy.special.comb([20,14, 10, 5],[6, 4, 5, 5])
print(re)
[3.876e+04 1.001e+03 2.520e+02 1.000e+00]

위 결과의 각 성분을 곱하기 위해 np.prod() 함수를 적용합니다.

np.prod(re)
9777287520.0
  • scipy.special.comb(n,k)
    • n개 중에서 중복없이 순서를 고려하지 않고 k개를 선택하는 경우의 수 (조합)
  • numpy.prod(x, axis=None)
    • x: 배열 객체
    • 지정한 축(axis)를 기준으로 x의 각 요소들의 곱을 계산

위 예와 같이 여러 번의 선택에 대한 조합 계산은 식3과 같이 일반화 할 수 있습니다.

$$\binom{n}{k_1\,k_2\,\cdots\,k_r}=\frac{n!}{k_1!\,k_2!\,\cdots\,k_r!}$$ (식 3)

식 3을 적용한 이항정리의 확장식(식 4)은 전개된 다항식의 계수들을 결정하기 위해 적용할 수 있습니다.

\begin{align}&(x_1+x_2+\cdots+x_r)^n\\&\quad \sum \binom{n}{k_1\,k_2\,\cdots\,k_r}x_1^nx_2^n\cdots x_n^2 \end{align} (식 4)

예 2)

주사위 하나를 던지는 확률실험에서 다음을 결정합니다.

  1. 1을 선택할 확률
  2. 1 또는 2를 선택할 확률
  3. 어떤 시행에서 100%가 되는 경우
  4. 2를 제외한 모든 수 중의 하나가 나올 확률

a. 표본공간 S={1,2,3,4,5,6}에서 사건 1은 6개 중의 하나이므로 그 발생확률은 1/6이 됩니다.

확률은 전체 사건 중에서 특정사건이 일어나는 비율이므로 이론적으로 주사위를 6번 던지면 각 눈이 한번씩 나와야 하지만 실제 시행에서 같은 빈도가 같은 결과를 얻는 것은 어렵습니다. 그러나 그림1과 같이 시행 횟수를 증가시키면 각 사건의 발생확률은 이론값에 근접합니다.

p={}
for i in range(1, 1000):
    x=np.random.randint(1, 7, size=i)
    p[i]=len(np.where(x==1)[0])/i
re=np.random.choice(list(p.values()), 4)
print(re.round(3))
[0.160 0.145 0.158 0.146 0.168])
그림 1 주사위 1000번 시행시 1의 발생확률.
plt.figure(figsize=(5, 3))
plt.plot(p.keys(), p.values())
plt.hlines(1/6, 0, 1000, color="red", linestyle="--")
plt.xlabel("# of trial", size=12, weight="bold")
plt.ylabel("Probability", size=12, weight="bold")
plt.text(910, 0.2, "p=1/6", color="red" , size="11")
plt.show()

그림 1에서 나타낸 것과 같이 시행횟수가 증가할수록 확률은 이론값인 1/6에 수렴하는 것을 알 수 있습니다. 이것을 큰수의 법칙 (Law of Large Numbers)이라고 합니다. 즉, 시행 횟수를 증가하면 이론적인 확률에 수렴됩니다.

b. 표본공간으로부터 대상 사건집합은 E={1, 2}이고 각 사건은 독립(교집합 = ∅)이므로 사건 E가 일어날 확률은 식 5와 같이 각 확률의 합이 됩니다.

\begin{align}& P(X=1)=\frac{1}{6} \quad P(X=2)=\frac{1}{6}\\ & P(X=1\; \text{or}\; X=2)=\frac{1}{6}+\frac{1}{6}=\frac{1}{3}\end{align}(식 5)
for i in [10, 100, 1000, 10000]:
    x=np.random.randint(1, 7, size=i)
    re=np.around((len(np.where(x==1)[0])+ len(np.where(x==2)[0]))/i, 4)
    print(f'시행횟수:{i}, 확률:{re}')
시행횟수:10, 확률:0.4
시행횟수:100, 확률:0.44
시행횟수:1000, 확률:0.341
시행횟수:10000, 확률:0.3298

c. 주사위를 시행할 경우 나올수 있는 모든 경우를 의미합니다. 즉, 100%가 되는 확률의 사건 집합은 포본공간과 같은 E = {1,2, 3, 4, 5, 6} 입니다.

d. 전체에서 2가 나올 확률을 제외합니다(식 6).

$$1-\frac{1}{6}=\frac{5}{6}$$ (식 6)

예 3)

주사위 두 개를 던지는 시행에서 두 주사위 모두 3이 나오는 확률을 결정합니다.

주사위 두 개를 시행한 표본 공간의 수는 36개입니다. 첫 번 시행의 결과는 두 번째 시행에 영향을 줄 수 없습니다. 즉, 독립사건이므로 두 주사위의 모두 눈이 3이 될 확률은 각 확률을 곱한 $\frac{1}{36}$이 됩니다.

case=list(itertools.product(range(1, 7), repeat=2))
print(case)
[(1, 1), (1, 2), ..., (6, 5), (6, 6)]
n=0
for i, j in case:
    if (i==3) &(j==3):
        n +=1
n
1
prob=n/len(case)
round(prob, 4)
0.0278

댓글

이 블로그의 인기 게시물

[Linear Algebra] 유사변환(Similarity transformation)

유사변환(Similarity transformation) n×n 차원의 정방 행렬 A, B 그리고 가역 행렬 P 사이에 식 1의 관계가 성립하면 행렬 A와 B는 유사행렬(similarity matrix)이 되며 행렬 A를 가역행렬 P와 B로 분해하는 것을 유사 변환(similarity transformation) 이라고 합니다. $$\tag{1} A = PBP^{-1} \Leftrightarrow P^{-1}AP = B $$ 식 2는 식 1의 양변에 B의 고유값을 고려한 것입니다. \begin{align}\tag{식 2} B - \lambda I &= P^{-1}AP – \lambda P^{-1}P\\ &= P^{-1}(AP – \lambda P)\\ &= P^{-1}(A - \lambda I)P \end{align} 식 2의 행렬식은 식 3과 같이 정리됩니다. \begin{align} &\begin{aligned}\textsf{det}(B - \lambda I ) & = \textsf{det}(P^{-1}(AP – \lambda P))\\ &= \textsf{det}(P^{-1}) \textsf{det}((A – \lambda I)) \textsf{det}(P)\\ &= \textsf{det}(P^{-1}) \textsf{det}(P) \textsf{det}((A – \lambda I))\\ &= \textsf{det}(A – \lambda I)\end{aligned}\\ &\begin{aligned}\because \; \textsf{det}(P^{-1}) \textsf{det}(P) &= \textsf{det}(P^{-1}P)\\ &= \textsf{det}(I)\end{aligned}\end{align} 유사행렬의 특성 유사행렬인 두 정방행렬 A와 B는 'A ~ B' 와 같

[matplotlib] 히스토그램(Histogram)

히스토그램(Histogram) 히스토그램은 확률분포의 그래픽적인 표현이며 막대그래프의 종류입니다. 이 그래프가 확률분포와 관계가 있으므로 통계적 요소를 나타내기 위해 많이 사용됩니다. plt.hist(X, bins=10)함수를 사용합니다. x=np.random.randn(1000) plt.hist(x, 10) plt.show() 위 그래프의 y축은 각 구간에 해당하는 갯수이다. 빈도수 대신 확률밀도를 나타내기 위해서는 위 함수의 매개변수 normed=True로 조정하여 나타낼 수 있다. 또한 매개변수 bins의 인수를 숫자로 전달할 수 있지만 리스트 객체로 지정할 수 있다. 막대그래프의 경우와 마찬가지로 각 막대의 폭은 매개변수 width에 의해 조정된다. y=np.linspace(min(x)-1, max(x)+1, 10) y array([-4.48810153, -3.54351935, -2.59893717, -1.65435499, -0.70977282, 0.23480936, 1.17939154, 2.12397372, 3.0685559 , 4.01313807]) plt.hist(x, y, normed=True) plt.show()

R 미분과 적분

내용 expression 미분 2차 미분 mosaic를 사용한 미분 적분 미분과 적분 R에서의 미분과 적분 함수는 expression()함수에 의해 생성된 표현식을 대상으로 합니다. expression expression(문자, 또는 식) 이 표현식의 평가는 eval() 함수에 의해 실행됩니다. > ex1<-expression(1+0:9) > ex1 expression(1 + 0:9) > eval(ex1) [1] 1 2 3 4 5 6 7 8 9 10 > ex2<-expression(u, 2, u+0:9) > ex2 expression(u, 2, u + 0:9) > ex2[1] expression(u) > ex2[2] expression(2) > ex2[3] expression(u + 0:9) > u<-0.9 > eval(ex2[3]) [1] 0.9 1.9 2.9 3.9 4.9 5.9 6.9 7.9 8.9 9.9 미분 D(표현식, 미분 변수) 함수로 미분을 실행합니다. 이 함수의 표현식은 expression() 함수로 생성된 객체이며 미분 변수는 다음 식의 분모의 변수를 의미합니다. $$\frac{d}{d \text{변수}}\text{표현식}$$ 이 함수는 어떤 함수의 미분의 결과를 표현식으로 반환합니다. > D(expression(2*x^3), "x") 2 * (3 * x^2) > eq<-expression(log(x)) > eq expression(log(x)) > D(eq, "x") 1/x > eq2<-expression(a/(1+b*exp(-d*x))); eq2 expression(a/(1 + b * exp(-d * x))) > D(eq2, "x") a * (b * (exp(-d * x) * d))/(1 + b