기본 콘텐츠로 건너뛰기

pandas_ta를 적용한 통계적 인덱스 지표

댓글 쓰기

[data analysis] 두 대규모 표본의 비교

두 대규모 표본의 비교

내용

중심극한정리에 의하면 큰 규모의 표본은 정규분포에 부합합니다. 일반적으로 자료의 갯수가 30개 이상이면 정규분포를 따른다고 가정합니다. 이 경우는 모분산이 동일하다는 가정은 필요하지 않으며 두 표본으로부터 평균의 차 역시 정규분포를 가정할 수 있습니다. 그러므로 큰 규모의 표본들의 X-Y의 결합분포의 평균과 분산은 식 1과 같이 계산됩니다.

\begin{align}μ_{\text{pred}}&= μ_x − μ_y\\ \sigma_{\text{pred}}^2 & = \frac{\sigma_x^2}{n_x}+\frac{\sigma_y^2}{n_y}\quad \text{for:}\; \sigma^2\to \text{known}\\\sigma_{\text{pred}}^2 & = \frac{s_x^2}{n_x}+\frac{s_y^2}{n_y}\quad \text{for:}\; \sigma^2\to \text{unknown}\\ &\mu,\, n:\,\text{평균, 샘플의 크기}\\& \sigma,\, s:\, \text{모표준편차, 표본표준편차} \end{align}(식 1)

예 1)

다음은 일정기간 코스피(kos)지수와 다우(dj)지수의 일일 시가 기준 종가의 변화율에 대한 자료입니다.

kospi dow
0 -1.079 NaN
1 -0.551 -0.038
2 2.267 0.315
3 -0.157 -0.788
⋮ ⋮ ⋮

위 자료에 대한 다음 귀무가설을 검정해 봅니다.

H0: μkos − μdj = 0

다음은 위 자료를 생성하기 위한 코드입니다. 결과는 각 호출한 코스피지수와 다우지수로부터 생성한 자료의 수입니다. 

st=pd.Timestamp(2023,1,1)
et=pd.Timestamp(2024, 5, 30)
kos=fdr.DataReader('KS11', st, et)[["Open","Close"]]
dj=fdr.DataReader('DJI',st, et)[["Open", "Close"]]
k=(kos["Close"]-kos["Open"])/kos["Open"]*100
d=(dj["Close"]-dj["Open"])/dj["Open"]*100
len(k), len(d)
(345, 353)

자료는 충분한 샘플수를 가지므로 정규분포를 따른다고 가정할 수 있습니다. 즉, 두 그룹에 대해 등분산을 가정할 수 있습니다. 이 두 자료의 결합분포의 평균과 표준편차(표준오차)를 계산합니다. 

mk, md=k.mean(), d.mean()
mu_hat=mk-md
vk, vd=k.var(ddof=1), d.var(ddof=1)
nk, nd=len(k), len(d)
se=np.sqrt(vk/nk+vd/nd)
print(f'평균차: {mu_hat.round(3)}, 표준오차: {round(se, 3)}')
평균차: -0.086, 표준오차: 0.051

위 결과를 기준으로 신뢰수준 0.95에서 신뢰구간을 결정합니다.

low=mu_hat+stats.norm.ppf(0.025)*se
up=mu_hat+stats.norm.ppf(0.975)*se
print(f'하한:{low.round(3)}, 상한:{up.round(3)}')
하한:-0.187, 상한:0.015

위 신뢰구간은 두 그룹의 평균차와 표준오차를 모수로 하는 정규분포에서 직접적으로 계산할 수 있습니다. 이 계산은 stats.norm.interval() 메소드를 사용합니다. 

ci=stats.norm.interval(0.95, mu_hat, se )
print("하한: %.3f, 상한: %.3f" %(ci[0], ci[1]))
하한: -0.187, 상한: 0.015

유의성검정을 위해 p-value를 결정해봅니다. z-검정의 검정통계량 즉, 두 그룹의 평균차를 표준오차를 사용하여 표준화한 값을 기준으로 표준정규분포에서의 유의확률을 계산합니다. 

testStat=mu_hat/se; testStat.round(3)
-1.67
pVal=2*stats.norm.cdf(testStat)
pVal.round(3)
0.095

위 결과들은 귀무가설을 기각할 근거를 제공하지 못합니다. 결론적으로 두 그룹의 평균은 같다고 할 수 있습니다.

statsmodels 패키지의 CompareMeans()클래스로 위 결과를 확인해 봅니다. 대규모 표본이므로 등분산을 가정하고 ttest 대신에 ztest를 실행하는 메소드를 선택합니다.

from statsmodels.stats.weightstats import CompareMeans, DescrStatsW
cm=CompareMeans(DescrStatsW(k), DescrStatsW(d))
se_cls=cm.std_meandiff_pooledvar #합동표준오차
se_cls.round(3)
0.051
ci_cls=cm.zconfint_diff(0.05)
print("하한: %.3f, 상한: %.3f" %(ci_cls[0], ci_cls[1]))
하한: -0.187, 상한: 0.015
stat_cls, pVal_cls=cm.ztest_ind()
print("통계량: %.3f, p-value: %.3f, df: %d" %(stat_cls, pVal_cls, df_cls))
통계량: -1.674, p-value: 0.094, df: 36
cm.summary(use_t=false)
Test for equality of means
coef std err z P>|z| [0.025 0.975]
subset #1 -0.0860 0.051 -1.674 0.094 -0.187 0.015

위 결과들에서 발생하는 약간의 수치적 차이는 부동소수점들의 연산과정에서 일어나는 불확실성에 의한 것입니다.

Labels:

댓글

댓글 쓰기

이 블로그의 인기 게시물

[Linear Algebra] 유사변환(Similarity transformation)

유사변환(Similarity transformation) n×n 차원의 정방 행렬 A, B 그리고 가역 행렬 P 사이에 식 1의 관계가 성립하면 행렬 A와 B는 유사행렬(similarity matrix)이 되며 행렬 A를 가역행렬 P와 B로 분해하는 것을 유사 변환(similarity transformation) 이라고 합니다. $$\tag{1} A = PBP^{-1} \Leftrightarrow P^{-1}AP = B $$ 식 2는 식 1의 양변에 B의 고유값을 고려한 것입니다. \begin{align}\tag{식 2} B - \lambda I &= P^{-1}AP – \lambda P^{-1}P\\ &= P^{-1}(AP – \lambda P)\\ &= P^{-1}(A - \lambda I)P \end{align} 식 2의 행렬식은 식 3과 같이 정리됩니다. \begin{align} &\begin{aligned}\textsf{det}(B - \lambda I ) & = \textsf{det}(P^{-1}(AP – \lambda P))\\ &= \textsf{det}(P^{-1}) \textsf{det}((A – \lambda I)) \textsf{det}(P)\\ &= \textsf{det}(P^{-1}) \textsf{det}(P) \textsf{det}((A – \lambda I))\\ &= \textsf{det}(A – \lambda I)\end{aligned}\\ &\begin{aligned}\because \; \textsf{det}(P^{-1}) \textsf{det}(P) &= \textsf{det}(P^{-1}P)\\ &= \textsf{det}(I)\end{aligned}\end{align} 유사행렬의 특성 유사행렬인 두 정방행렬 A와 B는 'A ~ B' 와 같...
댓글 쓰기
Read more »

유리함수 그래프와 점근선 그리기

내용 유리함수(Rational Function) 점근선(asymptote) 유리함수 그래프와 점근선 그리기 유리함수(Rational Function) 유리함수는 분수형태의 함수를 의미합니다. 예를들어 다음 함수는 분수형태의 유리함수입니다. $$f(x)=\frac{x^{2} - 1}{x^{2} + x - 6}$$ 분수의 경우 분모가 0인 경우 정의할 수 없습니다. 이와 마찬가지로 유리함수 f(x)의 정의역은 분모가 0이 아닌 부분이어야 합니다. 그러므로 위함수의 정의역은 분모가 0인 부분을 제외한 부분들로 구성됩니다. sympt=solve(denom(f), a); asympt [-3, 2] $$-\infty \lt x \lt -3, \quad -3 \lt x \lt 2, \quad 2 \lt x \lt \infty$$ 이 정의역을 고려해 그래프를 작성을 위한 사용자 정의함수는 다음과 같습니다. def validX(x, f, symbol): ① a=[] b=[] for i in x: try: b.append(float(f.subs(symbol, i))) a.append(i) except: pass return(a, b) #x는 임의로 지정한 정의역으로 불연속선점을 기준으로 구분된 몇개의 구간으로 전달할 수 있습니다. #그러므로 인수 x는 2차원이어야 합니다. def RationalPlot(x, f, sym, dp=100): fig, ax=plt.subplots(dpi=dp) # ② for k in x: #③ x4, y4=validX(k, f, sym) ax.plot(x4, y4) ax.spines['left'].set_position(('data', 0)) ax.spines['right...
댓글 쓰기
Read more »

부분분수의 미분

내용 방법 1 방법 2 방법 3 부분분수의 미분 분수의 미분은 일정한 공식 을 적용하여 계산할 수 있습니다. 그러나 분수 자체가 단순한 표현으로 이루어지지 않았다면 미분 과정이나 결과는 매우 복잡할 수 있습니다. 만약 복잡한 분수 함수를 간단한 분수들로 분해할 수 있다면 계산이 보다 간편해질 것입니다. 이와 같이 분해된 간단한 분수들을 부분분수 라고 합니다. 예를 들어 다음 두 분수의 합을 계산해 봅니다. $$\begin{align} \frac{1}{x+1}+\frac{2}{x-1}&=\frac{x-1+2(x+1)}{(x+1)(x-1)}\\ &=\frac{3x+1}{x^2-1} \end{align}$$ 위 과정은 3개 이상의 여러 분수에서도 이루어질 수 있습니다. 또한 역으로 진행될 수 있습니다. 즉, 분수를 부분 분수로 분할할 수 있습니다. 그러나 이러한 과정은 대수분수 (분자의 가장 큰 차수가 분모의 최고의 차수보다 작은 분수)에서만 이루어질 수 있습니다. 예를 들어 $\displaystyle \frac {x^2+2}{x^2-1}$의 경우는 분자와 분모의 차수는 2차로 같습니다. 이러한 경우 다음과 같이 분리할 수 있습니다. $$\frac{x^2+2}{x^2-1}=1+\frac{3}{x^2-1}$$ 위의 식 중 $\displaystyle \frac{3}{x^2-1}$은 분자의 차수가 분모의 차수 보다 낮은 대수 분수이므로 부분 분수로 분리할 수 있습니다. 이와같이 부분 분수로 분해하는 방법은 다음과 같이 몇 가지로 구분할 수 있습니다. 방법 1 위 예의 결과 $\displaystyle \frac{3x+1}{x^2-1}$의 경우를 역으로 생각해 봅니다. 분모의 인수분해가 가능하면 그 분모의 인수에 의해 다음과 같이 분해할 수 있습니다. $$\begin{align} \frac{3x+1}{x^2-1}&=\frac{3x+1}{(x+1)(x-1)}\\ &=\frac{A}{x+1...
댓글 쓰기
Read more »