기본 콘텐츠로 건너뛰기

벡터와 행렬에 관련된 그림들

[data analysis] t 분포(Student's t distribution)

t분포(Student's t distribution)

정규분포 N(μ, σ2)을 따르는 모집단으로부터 n개의 샘플들(x1, x2, ..., xn)을 추출하면 정규화된 샘플들의 제곱의 합은 자유도가 n-1인 χ2분포를 따릅니다(식 1).

\begin{align}X&=(x_1,\,x_2,\,\cdots,\, x_n)\\S^2&=\frac{1}{n-1}\sum^n_{i=1}(x_i-\bar{x})^2\\ (n-1)S^2 &= \sum^n_{i=1}(x_i - \bar{x})^2\\ \frac{(n-1)S^2}{\sigma^2}&= \sum^n_{i=1}\frac{(x_i - \bar{x})^2}{\sigma^2}\\&=\sum^n_{i=1}z_i^2\\&= z_1^2 +z_2^2+ \cdots +z_n^2 \end{align} (식 1)

식 3.2.43의 마지막 항의 각각 정규화된 값의 제곱은 χ2(1)(카이제곱 분포 참조)을 따르므로 $\frac{(n-1)S^2}{\sigma^2}$는 χ2(n)를 따릅니다. 그러므로 표준정규분포를 따르는 확률변수 Z과 자유도 k(= n)에 대한 카이제곱분포의 비의 결과를 새로운 확률변수 T로 정의할 수 있습니다 (식 2).

$$T_k =\frac{Z}{\sqrt{\frac{\chi^2_k}{k}}}$$ (식 2)

식 2에서 Z은 표준정규분포를 따르는 확률변수이고 χ2k는 자유도 k인 카이제곱분포를 따르는 확률변수로 $\frac{(n-1)S^2}{\sigma^2}$을 의미합니다. k는 자유도입니다. 이 결과인 확률변수 T는 자유도가 k인 t 분포를 따릅니다.

식 2에 의해 생성되는 확률변수 T의 분포인 t 분포의 확률밀도 함수(pdf)는 식 3로 정의합니다.

\begin{align}f(x,\,k)&=\frac{\Gamma\left(\frac{k+1}{2}\right)}{\sqrt{\pi k}\Gamma\left(\frac{k}{2}\right)}\left(1+\frac{x^2}{k}\right)^{-\frac{k+1}{2}} \\& x: \;\text{확률변수} \\& k: \;\text{자유도} \\& Γ: \;\text{감마함수}\end{align} (식 3)

식 3과 같이 t 분포 함수의 모수는 자유도 k로서 t 분포는 t(k)와 같이 나타냅니다.

그림 1은 자유도에 따른 t분포의 변화된 형태입니다.

그림 1. t분포에서 자유도의 영향.
x=np.linspace(-3, 3, 1000)
k=[1, 5, 10]
col=['g','b','r']
fig, ax=plt.subplots(figsize=(4,3))
ax.plot(x, stats.norm.pdf(x), label="N(0, 1)")
for i, j in zip(k, col):
    ax.plot(x, stats.t.pdf(x, i), color=j, label=f"t({i})")
ax.set_xlabel("x", loc="right")
ax.set_ylabel("pdf", loc="top")
ax.legend(loc='best', frameon=False)
plt.show()

그림 1에서 나타낸 것과 같이 t분포는 표준정규분포와 같이 좌우대칭입니다. 그러나 자유도가 증가할수록 분포의 높이가 낮아지며 꼬리부분의 두터워집니다. 일반적으로 표본의 크기가 30 이상이면 표준정규분포에 근접합니다. 반대로 표본의 크기가 30이하이면 정규분포보다는 t-분포의 사용이 적절함을 의미합니다. 표본의 크기가 작으면 신뢰도가 낮아지므로 정규분포보다 추정구간이 넓은 t분포의 적용이 더 바람직합니다.

t 분포는 scipy.stats.t()클래스를 사용합니다.

예 1)

P(t2 ≤ 1.5)을 계산합니다.

round(stats.t. cdf(1.5, 2), 3)
0.864

댓글

이 블로그의 인기 게시물

[Linear Algebra] 유사변환(Similarity transformation)

유사변환(Similarity transformation) n×n 차원의 정방 행렬 A, B 그리고 가역 행렬 P 사이에 식 1의 관계가 성립하면 행렬 A와 B는 유사행렬(similarity matrix)이 되며 행렬 A를 가역행렬 P와 B로 분해하는 것을 유사 변환(similarity transformation) 이라고 합니다. $$\tag{1} A = PBP^{-1} \Leftrightarrow P^{-1}AP = B $$ 식 2는 식 1의 양변에 B의 고유값을 고려한 것입니다. \begin{align}\tag{식 2} B - \lambda I &= P^{-1}AP – \lambda P^{-1}P\\ &= P^{-1}(AP – \lambda P)\\ &= P^{-1}(A - \lambda I)P \end{align} 식 2의 행렬식은 식 3과 같이 정리됩니다. \begin{align} &\begin{aligned}\textsf{det}(B - \lambda I ) & = \textsf{det}(P^{-1}(AP – \lambda P))\\ &= \textsf{det}(P^{-1}) \textsf{det}((A – \lambda I)) \textsf{det}(P)\\ &= \textsf{det}(P^{-1}) \textsf{det}(P) \textsf{det}((A – \lambda I))\\ &= \textsf{det}(A – \lambda I)\end{aligned}\\ &\begin{aligned}\because \; \textsf{det}(P^{-1}) \textsf{det}(P) &= \textsf{det}(P^{-1}P)\\ &= \textsf{det}(I)\end{aligned}\end{align} 유사행렬의 특성 유사행렬인 두 정방행렬 A와 B는 'A ~ B' 와 같...

[sympy] Sympy객체의 표현을 위한 함수들

Sympy객체의 표현을 위한 함수들 General simplify(x): 식 x(sympy 객체)를 간단히 정리 합니다. import numpy as np from sympy import * x=symbols("x") a=sin(x)**2+cos(x)**2 a $\sin^{2}{\left(x \right)} + \cos^{2}{\left(x \right)}$ simplify(a) 1 simplify(b) $\frac{x^{3} + x^{2} - x - 1}{x^{2} + 2 x + 1}$ simplify(b) x - 1 c=gamma(x)/gamma(x-2) c $\frac{\Gamma\left(x\right)}{\Gamma\left(x - 2\right)}$ simplify(c) $\displaystyle \left(x - 2\right) \left(x - 1\right)$ 위의 예들 중 객체 c의 감마함수(gamma(x))는 확률분포 등 여러 부분에서 사용되는 표현식으로 다음과 같이 정의 됩니다. 감마함수는 음이 아닌 정수를 제외한 모든 수에서 정의됩니다. 식 1과 같이 자연수에서 감마함수는 factorial(!), 부동소수(양의 실수)인 경우 적분을 적용하여 계산합니다. $$\tag{식 1}\Gamma(n) =\begin{cases}(n-1)!& n:\text{자연수}\\\int^\infty_0x^{n-1}e^{-x}\,dx& n:\text{부동소수}\end{cases}$$ x=symbols('x') gamma(x).subs(x,4) $\displaystyle 6$ factorial 계산은 math.factorial() 함수를 사용할 수 있습니다. import math math.factorial(3) 6 a=gamma(x).subs(x,4.5) a.evalf(3) 11.6 simpilfy() 함수의 알고리즘은 식에서 공통사항을 찾아 정리하...

sympy.solvers로 방정식해 구하기

sympy.solvers로 방정식해 구하기 대수 방정식을 해를 계산하기 위해 다음 함수를 사용합니다. sympy.solvers.solve(f, *symbols, **flags) f=0, 즉 동차방정식에 대해 지정한 변수의 해를 계산 f : 식 또는 함수 symbols: 식의 해를 계산하기 위한 변수, 변수가 하나인 경우는 생략가능(자동으로 인식) flags: 계산 또는 결과의 방식을 지정하기 위한 인수들 dict=True: {x:3, y:1}같이 사전형식, 기본값 = False set=True :{(x,3),(y,1)}같이 집합형식, 기본값 = False ratioal=True : 실수를 유리수로 반환, 기본값 = False positive=True: 해들 중에 양수만을 반환, 기본값 = False 예 $x^2=1$의 해를 결정합니다. solve() 함수에 적용하기 위해서는 다음과 같이 식의 한쪽이 0이 되는 형태인 동차식으로 구성되어야 합니다. $$x^2-1=0$$ import numpy as np from sympy import * x = symbols('x') solve(x**2-1, x) [-1, 1] 위 식은 계산 과정은 다음과 같습니다. $$\begin{aligned}x^2-1=0 \rightarrow (x+1)(x-1)=0 \\ x=1 \; \text{or}\; -1\end{aligned}$$ 예 $x^4=1$의 해를 결정합니다. solve() 함수의 인수 set=True를 지정하였으므로 결과는 집합(set)형으로 반환됩니다. eq=x**4-1 solve(eq, set=True) ([x], {(-1,), (-I,), (1,), (I,)}) 위의 경우 I는 복소수입니다.즉 위 결과의 과정은 다음과 같습니다. $$x^4-1=(x^2+1)(x+1)(x-1)=0 \rightarrow x=\pm \sqrt{-1}, \; \pm 1=\pm i,\; \pm1$$ 실수...