기본 콘텐츠로 건너뛰기

[ML] 결정트리(Decision Tree) 모델

[data analysis]균일분포(Uniform Distribution)

균일분포(Uniform Distribution)

식 1은 구간 [a, b]에서 확률 변수 x는 일정한 확률밀도함수를 가지는 분포를 나타내는 것으로 균일분포라고 합니다.

X ~ Uniform(a, b)(식 1)
$$f(x)=\begin{cases}\frac{1}{b-a}&a\le x \le b\\ 0& \text{otherwise} \end{cases}$$

예 1)

변수 X가 [0,10]의 범위에서 균일 분포를 이룬다면 다음 확률을 결정합니다.

$$f(x) = \frac{1}{10-0}$$
  1. p(2 < x < 9)
  2. p(1 < x < 4)
  3. p(x > 6)

이 균일분포의 확률밀도함수는 다음과 같습니다.

a, b, x=symbols("a b x")
f=Rational(1, 10)
f

$\frac{1}{10}$

1) p(2 < x < 9)

F1=f.integrate((x, 2, 9))
F1

$\frac{7}{10}$

2) p(1 < x < 4)

F1=f.integrate((x, 1, 4))
F1

$\frac{3}{10}$

3) p(x > 6)

F1=f.integrate((x, 6, 10))
F1

$\frac{2}{5}$

예 2)

버스가 7시에 출발하여 특정 정거장에 정확히 15분 마다 정차한다고 가정합니다. 만약 승객이 7시와 7:30분 사이에 버스를 기다리는 경우 기다리는 시간에 대한 다음 확률을 결정합니다.

  1. 5분 미만
  2. 최소 12분

확률변수 X를 [0, 30] 사이의 분(minute)이라고 한다면 각 분에 승객이 정류장에 있을 확률은 1/30으로 일정하므로 확률밀도함수 f(x) = 1/30인 균일 분포를 따른다고 할 수 있습니다.

P(X < 5분)의 경우 승객이 7시 10분 ~ 15분, 25분 ~ 30분 사이에 정류장에 있을 확률입니다. 즉, P(10 < x < 15) + P(25 < x < 30).

x=symbols("x")
f=Rational(1, 30)
f.integrate((x, 10, 15))+f.integrate((x, 25, 30))

$\frac{1}{3}$

2) 기다리는 시간이 최소 12분인 경우는 버스 출발후 승객이 정류장에 도착하는 시간이 3분보다 작은 경우입니다. 즉, P(0 < x < 3) + P(15 < x < 18).

f.integrate((x, 0, 3))+f.integrate((x, 15, 18))

$\frac{1}{5}$

평균과 분산

평균과 분산은 각각의 정의를 적용하여 식 2와 같이 계산됩니다. 물론 모멘트 생성함수를 사용하여 계산할 수 있습니다.

\begin{align}E(X)&=\int^b_a x\frac{1}{b-a}\,dx\\&=\frac{1}{b-a}\frac{x^2}{2}{\huge\vert}^b_a\\&=\frac{b+a}{2}\\\\ E(X^2)&=\int^b_a x^2\frac{1}{b-a}\,dx\\&=\frac{1}{b-a}\frac{x^3}{3}{\huge\vert}^b_a\\&=\frac{b^3-a^3}{3(b-a)}\\&=\frac{a^2+ab+b^2}{3}\\\\ \text{Var}(X)&=E(X^2)-(E(X))^2\\&=\frac{a^2+ab+b^2}{3}-\left(\frac{b+a}{2}\right)^2\\&=\frac{(b-a)^2}{12} \end{align} (식 2)
a, b, x, t=symbols("a b x t")
f=1/(b-a)
E=integrate(x*f, (x, a, b))
factor(E)

$\frac{a + b}{2}$

Var=integrate(x**2*f, (x, a, b))-E**2
factor(Var)

$\frac{\left(a - b\right)^{2}}{12}$

위 코드에서 factor() 함수는 sympy에 의해 생성된 식을 인수분해된 형태로 나타내기 위해 사용합니다.

댓글

이 블로그의 인기 게시물

[Linear Algebra] 유사변환(Similarity transformation)

유사변환(Similarity transformation) n×n 차원의 정방 행렬 A, B 그리고 가역 행렬 P 사이에 식 1의 관계가 성립하면 행렬 A와 B는 유사행렬(similarity matrix)이 되며 행렬 A를 가역행렬 P와 B로 분해하는 것을 유사 변환(similarity transformation) 이라고 합니다. $$\tag{1} A = PBP^{-1} \Leftrightarrow P^{-1}AP = B $$ 식 2는 식 1의 양변에 B의 고유값을 고려한 것입니다. \begin{align}\tag{식 2} B - \lambda I &= P^{-1}AP – \lambda P^{-1}P\\ &= P^{-1}(AP – \lambda P)\\ &= P^{-1}(A - \lambda I)P \end{align} 식 2의 행렬식은 식 3과 같이 정리됩니다. \begin{align} &\begin{aligned}\textsf{det}(B - \lambda I ) & = \textsf{det}(P^{-1}(AP – \lambda P))\\ &= \textsf{det}(P^{-1}) \textsf{det}((A – \lambda I)) \textsf{det}(P)\\ &= \textsf{det}(P^{-1}) \textsf{det}(P) \textsf{det}((A – \lambda I))\\ &= \textsf{det}(A – \lambda I)\end{aligned}\\ &\begin{aligned}\because \; \textsf{det}(P^{-1}) \textsf{det}(P) &= \textsf{det}(P^{-1}P)\\ &= \textsf{det}(I)\end{aligned}\end{align} 유사행렬의 특성 유사행렬인 두 정방행렬 A와 B는 'A ~ B' 와 같

[matplotlib] 히스토그램(Histogram)

히스토그램(Histogram) 히스토그램은 확률분포의 그래픽적인 표현이며 막대그래프의 종류입니다. 이 그래프가 확률분포와 관계가 있으므로 통계적 요소를 나타내기 위해 많이 사용됩니다. plt.hist(X, bins=10)함수를 사용합니다. x=np.random.randn(1000) plt.hist(x, 10) plt.show() 위 그래프의 y축은 각 구간에 해당하는 갯수이다. 빈도수 대신 확률밀도를 나타내기 위해서는 위 함수의 매개변수 normed=True로 조정하여 나타낼 수 있다. 또한 매개변수 bins의 인수를 숫자로 전달할 수 있지만 리스트 객체로 지정할 수 있다. 막대그래프의 경우와 마찬가지로 각 막대의 폭은 매개변수 width에 의해 조정된다. y=np.linspace(min(x)-1, max(x)+1, 10) y array([-4.48810153, -3.54351935, -2.59893717, -1.65435499, -0.70977282, 0.23480936, 1.17939154, 2.12397372, 3.0685559 , 4.01313807]) plt.hist(x, y, normed=True) plt.show()

R 미분과 적분

내용 expression 미분 2차 미분 mosaic를 사용한 미분 적분 미분과 적분 R에서의 미분과 적분 함수는 expression()함수에 의해 생성된 표현식을 대상으로 합니다. expression expression(문자, 또는 식) 이 표현식의 평가는 eval() 함수에 의해 실행됩니다. > ex1<-expression(1+0:9) > ex1 expression(1 + 0:9) > eval(ex1) [1] 1 2 3 4 5 6 7 8 9 10 > ex2<-expression(u, 2, u+0:9) > ex2 expression(u, 2, u + 0:9) > ex2[1] expression(u) > ex2[2] expression(2) > ex2[3] expression(u + 0:9) > u<-0.9 > eval(ex2[3]) [1] 0.9 1.9 2.9 3.9 4.9 5.9 6.9 7.9 8.9 9.9 미분 D(표현식, 미분 변수) 함수로 미분을 실행합니다. 이 함수의 표현식은 expression() 함수로 생성된 객체이며 미분 변수는 다음 식의 분모의 변수를 의미합니다. $$\frac{d}{d \text{변수}}\text{표현식}$$ 이 함수는 어떤 함수의 미분의 결과를 표현식으로 반환합니다. > D(expression(2*x^3), "x") 2 * (3 * x^2) > eq<-expression(log(x)) > eq expression(log(x)) > D(eq, "x") 1/x > eq2<-expression(a/(1+b*exp(-d*x))); eq2 expression(a/(1 + b * exp(-d * x))) > D(eq2, "x") a * (b * (exp(-d * x) * d))/(1 + b