두 대규모 표본의 비교
내용
- 두 독립집단의 비교
- 등분산인 두 소규모 표본의 비교
- 이분산인 두 소규모 표본의 비교
- 두 대규모 표본의 비교
중심극한정리에 의하면 큰 규모의 표본은 정규분포에 부합합니다. 일반적으로 자료의 갯수가 30개 이상이면 정규분포를 따른다고 가정합니다. 이 경우는 모분산이 동일하다는 가정은 필요하지 않으며 두 표본으로부터 평균의 차 역시 정규분포를 가정할 수 있습니다. 그러므로 큰 규모의 표본들의 X-Y의 결합분포의 평균과 분산은 식 1과 같이 계산됩니다.
| \begin{align}μ_{\text{pred}}&= μ_x − μ_y\\ \sigma_{\text{pred}}^2 & = \frac{\sigma_x^2}{n_x}+\frac{\sigma_y^2}{n_y}\quad \text{for:}\; \sigma^2\to \text{known}\\\sigma_{\text{pred}}^2 & = \frac{s_x^2}{n_x}+\frac{s_y^2}{n_y}\quad \text{for:}\; \sigma^2\to \text{unknown}\\ &\mu,\, n:\,\text{평균, 샘플의 크기}\\& \sigma,\, s:\, \text{모표준편차, 표본표준편차} \end{align} | (식 1) |
예 1)
다음은 일정기간 코스피(kos)지수와 다우(dj)지수의 일일 시가 기준 종가의 변화율에 대한 자료입니다.
| kospi | dow | |
|---|---|---|
| 0 | -1.079 | NaN |
| 1 | -0.551 | -0.038 |
| 2 | 2.267 | 0.315 |
| 3 | -0.157 | -0.788 |
| ⋮ | ⋮ | ⋮ |
위 자료에 대한 다음 귀무가설을 검정해 봅니다.
H0: μkos − μdj = 0
다음은 위 자료를 생성하기 위한 코드입니다. 결과는 각 호출한 코스피지수와 다우지수로부터 생성한 자료의 수입니다.
st=pd.Timestamp(2023,1,1)
et=pd.Timestamp(2024, 5, 30)
kos=fdr.DataReader('KS11', st, et)[["Open","Close"]]
dj=fdr.DataReader('DJI',st, et)[["Open", "Close"]]
k=(kos["Close"]-kos["Open"])/kos["Open"]*100
d=(dj["Close"]-dj["Open"])/dj["Open"]*100
len(k), len(d)
(345, 353)
자료는 충분한 샘플수를 가지므로 정규분포를 따른다고 가정할 수 있습니다. 즉, 두 그룹에 대해 등분산을 가정할 수 있습니다. 이 두 자료의 결합분포의 평균과 표준편차(표준오차)를 계산합니다.
mk, md=k.mean(), d.mean()
mu_hat=mk-md
vk, vd=k.var(ddof=1), d.var(ddof=1)
nk, nd=len(k), len(d)
se=np.sqrt(vk/nk+vd/nd)
print(f'평균차: {mu_hat.round(3)}, 표준오차: {round(se, 3)}')
평균차: -0.086, 표준오차: 0.051
위 결과를 기준으로 신뢰수준 0.95에서 신뢰구간을 결정합니다.
low=mu_hat+stats.norm.ppf(0.025)*se
up=mu_hat+stats.norm.ppf(0.975)*se
print(f'하한:{low.round(3)}, 상한:{up.round(3)}')
하한:-0.187, 상한:0.015
위 신뢰구간은 두 그룹의 평균차와 표준오차를 모수로 하는 정규분포에서 직접적으로 계산할 수 있습니다. 이 계산은 stats.norm.interval() 메소드를 사용합니다.
ci=stats.norm.interval(0.95, mu_hat, se )
print("하한: %.3f, 상한: %.3f" %(ci[0], ci[1]))
하한: -0.187, 상한: 0.015
유의성검정을 위해 p-value를 결정해봅니다. z-검정의 검정통계량 즉, 두 그룹의 평균차를 표준오차를 사용하여 표준화한 값을 기준으로 표준정규분포에서의 유의확률을 계산합니다.
testStat=mu_hat/se; testStat.round(3)
-1.67
pVal=2*stats.norm.cdf(testStat) pVal.round(3)
0.095
위 결과들은 귀무가설을 기각할 근거를 제공하지 못합니다. 결론적으로 두 그룹의 평균은 같다고 할 수 있습니다.
statsmodels 패키지의 CompareMeans()클래스로 위 결과를 확인해 봅니다. 대규모 표본이므로 등분산을 가정하고 ttest 대신에 ztest를 실행하는 메소드를 선택합니다.
from statsmodels.stats.weightstats import CompareMeans, DescrStatsW
cm=CompareMeans(DescrStatsW(k), DescrStatsW(d)) se_cls=cm.std_meandiff_pooledvar #합동표준오차 se_cls.round(3)
0.051
ci_cls=cm.zconfint_diff(0.05)
print("하한: %.3f, 상한: %.3f" %(ci_cls[0], ci_cls[1]))
하한: -0.187, 상한: 0.015
stat_cls, pVal_cls=cm.ztest_ind()
print("통계량: %.3f, p-value: %.3f, df: %d" %(stat_cls, pVal_cls, df_cls))
통계량: -1.674, p-value: 0.094, df: 36
cm.summary(use_t=false)
| coef | std err | z | P>|z| | [0.025 | 0.975] | |
|---|---|---|---|---|---|---|
| subset #1 | -0.0860 | 0.051 | -1.674 | 0.094 | -0.187 | 0.015 |
위 결과들에서 발생하는 약간의 수치적 차이는 부동소수점들의 연산과정에서 일어나는 불확실성에 의한 것입니다.
댓글
댓글 쓰기