표본분포(Sample distribution)
다음과 같이 모집단에서 추출한 표본들이 모든 요소(데이터)들을 사용하는 이상적인 경우 모평균과 표본평균들의 평균은 같습니다. 즉, 6개의 요소를 가지는 모집단으로부터 요소 3개를 포함하는 표본 2개에 대해 식 1의 관계가 성립합니다.
| \begin{align}X&=\{x_1, \,x_2, \,x_3, \,x_4, \,x_5, \,x_6\} \\ X_1&=\{x_1, \,x_2, \,x_3\},\; X_2=\{x_4, \,x_5, \,x_6\}\\ \mu&=\frac{x_1+x_2+x_3+x_4+x_5+x_6}{6}\\ \overline{X_1} &=\frac{x_1+x_2+x_3}{3}\\ \overline{X_2} &=\frac{x_4+x_5+x_6}{3}\\ \overline{X} &= \frac{\overline{X_1}+\overline{X_2}}{2}\\&=\frac{\frac{x_1+x_2+x_3}{3}+\frac{x_4+x_5+x_6}{3}}{2}\\ &=\mu\end{align} | (식 1) |
표본 집단들은 모집단으로부터 무작위로 추출된 것으로 표본들 사이에는 편차가 존재합니다. 그러나 모든 샘플들이 모집단의 요소들을 포함한다면 식 1과 같이 각 샘플의 평균으로 유도되는 평균은 모평균과 같아질 것입니다. 다시 말하면 각 샘플의 평균들은 일정한 분포를 이룰 수 있습니다. 중심극한 정리에 의해 그 수가 많으며 정규분포에 부합합니다. 이러한 분포를 표본평균분포 또는 표본 분포(sample distribution)라고 하고 이 분포의 평균을 표본평균(sample mean)이라 합니다. 식 1과 중심극한 정리와 같은 모집단과 표본들의 관계로 인해 표본평균은 미지의 모평균을 대체하여 사용합니다. 이러한 추정치를 불편추정치(unbiased estimator)라고 합니다. 즉, 모평균과 표본평균 사이에 발생하는 편차는 일반적인 상황에서 발생하는 노이즈 수준이라고 간주할 수 있으므로 결과적으로 그 편차는 분석 결론에 주요한 영향을 주지 않을 것이라고 가정한다는 의미입니다.
예 1)
일정기간의 kospi 지수에 대한 일일 시작가와 종가의 변화율은 다음 코드에 의해 나타낼 수 있습니다.
st=pd.Timestamp(2022,12, 1)
et=pd.Timestamp(2023, 4, 1)
da=fdr.DataReader("KS11", st, et)
pop=(da['Close']-da['Open'])/da['Open']*100 |
이 자료의 종가와 시가의 일일 변화율을 모집단으로 하여 모평균과 표본평균을 비교합니다.
예제의 자료는 파이썬 패키지인 FinanceDataReader를 사용하여 작성한 것입니다. 또한 자료의 평균은 pandas객체.mean() 메소드를 사용하였습니다.
mu=pop.mean()
sigma=pop.std()
print(f'모평균: {round(mu, 3)}, 모표준편차: {round(sigma, 3)}')
모평균: -0.038, 모표준편차: 0.769
크기 5인 표본을 추출하고 그 표본의 평균을 계산합니다.
np.random.seed(3) sam1=np.random.choice(pop, 5, replace=False) print(sam1.round(3))
[-0.116 0.845 0.775 -0.23 1.095]
sam1bar=sam1.mean() sam1bar.round(3)
0.474
표본의 평균은 모집단의 평균에 비해 높습니다. 같은 방식으로 다른 표본을 추출합니다. 이 결과는 위 평균 또는 모평균과도 차이를 보일 것입니다.
sam2=np.random.choice(pop, 5, replace=False) sam2bar=sam1.mean() sam2bar.round(3)
-0.151
모집단의 통계량과 표본의 통계량 사이에 편차가 존재하는 것은 합리적입니다. 또한 무작위 추출에 의한 표본으로 부터의 평균들 사이에도 편차가 존재할 것입니다. 이러한 편차를 표집 변동 또는 표본 변동(sample variation)이라 합니다. 그림 1의 표본분포(sample distribution)는 모집단으로 크기 5인 표본을 각각 무작위로 20번과 100번 표집한 결과입니다.
np.random.seed(1)
xBar=np.array([])
for i in range(20):
x=np.random.choice(pop, 5, replace=False)
xBar=np.append(xBar, x.mean())
xBar2=np.array([])
for i in range(100):
x=np.random.choice(pop, 5, replace=False)
xBar2=np.append(xBar2, x.mean())
print(np.around([xBar.mean(), xBar2.mean()], 2))
[-0.13 -0.02]
plt.figure(figsize=(8, 3))
plt.subplot(1,2,1)
plt.hist(xBar, 10, rwidth=0.8, color="blue", label="n=20")
plt.axvline(-0.13, 0, 0.9, color="red", label="m=-0.13")
plt.xlabel("x", weight="bold")
plt.ylabel("frequency", weight="bold")
plt.title("(a)",loc="right")
plt.legend(loc='upper right', frameon=False)
plt.subplot(1,2,2)
plt.hist(xBar2, 10, rwidth=0.8, color="green", label="n=100")
plt.axvline(-0.02, 0,0.9, color="red", label="m=-0.02")
plt.xlabel("x", weight="bold")
plt.title("(b)",loc="right")
plt.legend(loc='upper right', frameon=False)
plt.show()
그림 1에서 나타낸 것과 같이 표본의 수의 증가로 표본 평균은 모평균과 유사한 부분에 집중되는 경향을 보입니다.이러한 경향은 중심극한 정리와 일치하는 결과를 보여줍니다. 즉 그 히스토그램의 형태는 정규분포와 유사합니다. 결과적으로 표본의 크기를 증가하면 그 데이터에 대해 정규확률밀도함수를 적용할 수 있으며 그 분포를 사용하여 모평균 추정에 대해 확률을 적용할 수 있습니다.
예 2)
자료는 코드에 의해 호출한 일정기간 원달러 환율에 대한 것입니다. 이 자료로부터 추출되는 표본평균 1000개는 분포는 정규분포임을 보입니다. 이 분포가 정규분포를 따른다면 상위 5%에 해당하는 구간의 하한값을 결정합니다.
st=pd.Timestamp(2024,4, 1)
et=pd.Timestamp(2024, 5, 30)
da=fdr.DataReader("USD/KRW", st, et)['Close']
print(np.around(da, 0).values)
[1345. 1356. 1351. 1345. 1351. 1350. 1354. 1349. 1364. 1368. 1380. 1388. 1387. 1380. 1379. 1374. 1379. 1370. 1377. 1372. 1377. 1375. 1385. 1375. 1365. 1355. 1352. 1358. 1362. 1365. 1370. 1364. 1363. 1354. 1346. 1353. 1360. 1363. 1366. 1368. 1366. 1361. 1363.]
위 자료로부터 5개의 요소를 포함하는 샘플을 무작위로 추출하기 위해 np.random.choice() 함수를 사용하였습니다. 또한 이 과정을 1000회 반복하기 위해 for loop 문이 적용되었습니다. 다음 코드에서 적용한 random.seed()는 무작위 추출된 결과의 재현성을 위해 적용된 numpy 함수입니다.
for-loop 문은 동일한 명령을 반복하기 위해 사용하는 제어문으로 대부분의 컴퓨터언어에서 채택하고 있는 반복문의 하나입니다.
np.random.seed(1)
sample=np.array([])
for i in range(1000):
x=np.random.choice(da, 5, replace=False)
sample=np.append(sample, x.mean())
print(sample[:10].round(2))
[1359.28 1363.69 1364.03 1365.81 1364.78 1363.64 1364.2 1362.13 1358.69 1370.94]
모집단과 생성한 표본들의 평균, 표준편차를 비교해 봅니다.
mu, sigma=da.mean(), da.std() #모집단 round(mu, 3), round(sigma,3)
(1364.718, 11.767)
mu_smp, sigma_smp=sample.mean(), sample.std() #표본 round(mu_smp, 3), round(sigma_smp,3)
(1364.703, 4.905)
표본의 평균들의 분포를 나타내기 위해 값들을 표준화합니다. 이 표준화를 위해 sklearn.preprocessing.StandardScaler() 클래스를 적용합니다. 이 클래스에 전달하는 객체는 2차원 즉, 행렬구조이어야 합니다. 위의 표본평균들의 자료는 1차원 벡터이므로 np.reshape() 함수를 사용하여 2차원으로 변환합니다.
s=np.reshape(sample,(-1,1)) scaler=StandardScaler().fit(s) s_n=scaler.transform(s) xbar, xs=s_n.mean(), s_n.std() xbar.round(3), xs.round(3)
(0.0, 1.0)
위 표준화의 결과인 자료의 평균과 표준편차가 각각 0, 1이 됨을 나타냅니다. 중심극한정리에 따라 위 자료는 정규분포에 부합할 것입니다. 이러한 가정은 그 자료의 히스토그램과 표준정규분포를 나타낸 그림 2로 확인 할 수 있습니다.
fig, ax=plt.subplots(figsize=(4,3))
ax.hist(s_n, bins=15, rwidth=0.9, color="g", alpha=0.3, label="histogram")
ax.set_xlabel("x")
ax.set_ylabel("frequency", color="g")
ax2=plt.twinx()
s_n2=np.sort(s_n, axis=0)
ax2.plot(s_n2, stats.norm.pdf(s_n2), color="b", label="N(0, 1)")
ax2.set_ylabel("pdf", color="b")
ax.legend(loc=(0.6, 0.8), frameon=False)
ax2.legend(loc=(0.6, 0.7), frameon=False)
plt.show()
그림 2의 두 그래프의 형상은 거의 일치합니다. 그러므로 표준정규분포를 근거로 확률변수 x(표본평균)에 대응하는 확률을 계산할 수 있습니다. 역으로 확률에 대응하는 확률변수를 결정할 수도 있습니다. 이것은 scipy.stats.norm() 클래스의 .ppf() 메소드를 적용합니다. 상위 5% 구간의 하한값을 계산하기 위해서는 누적확률이 95%되는 위치의 변수값을 결정합니다.
표본의 평균들의 표준화후 신뢰구간을 계산
lv=stats.norm.ppf(0.95);lv.round(3)
1.645
위 결과는 표준화된 값이므로 원래 스케일로 전환해야 합니다. 위에서 사용한 StandardScaler() 클래스의 inverse_transform() 메서드를 사용합니다.
print(scaler.inverse_transform(lv.reshape(1,1)))
[[1372.77136885]]
댓글
댓글 쓰기