[data analysis] Bartlett 검정

Bartlett 검정

관련된 내용

Bartlett 검정은 집단(표본)간 분산에 대해 등분산성을 검정합니다. 이 검정은 두 집단 이상의 자료형식에서도 적용할 수 있으므로 t-검정 또는 일원분산분석에 적용할 자료의 등분산성 가정을 위한 검정에 사용합니다.

이 검정은 정규분포에 부합하는 k개의 그룹에 대한 자유도 k-1인 카이자승(χ²) 분포를 기반으로 합니다. 결정기준인 검정 통계량은 식 1과 같이 계산됩니다. χ² 분포를 기반으로 하기 때문에 표본이 정규분포를 따르는 것을 전제조건으로 합니다. 만약 표본이 비정규 분포에서 추출된 표본의 경우 이 검정은 단순히 분포의 비정규성을 검정하는 것일 수 있습니다.

\begin{align}T&=\frac{(N-k)\ln(s^2_p)-\sum^k_{i=1}(N_i-1)\ln(s^2_i)}{1+\frac{1}{3(k-1)}\left(\left(\sum^k_{i=1}\frac{1}{n_i-1}\right)-\frac{1}{N-k} \right)}\\& s^2_i:\, \text{i 레벨(그룹)의 분산}\\& N: \,\text{자료의 크기} \\& k: \,\text{레벨(집단)의 수} \\& s^2_p: \,\text{합동분산(pooled variance)} \end{align}

(식 1)

합동표준편차(pooled standard deviation) 참조

$$s^2_p=\sum^k_{i=1} \frac{N_i-1}{N-k}s^2_i$$

(식 2)

검정의 가설은 다음과 같습니다.

귀무가설(H0): 집단들의 분산이 같다.

대립가설(Ha): 최소한 두 집단간의 분산이 다르다.

Bartlett 검정은 scipy.stats.bartlett(smaples...) 함수를 사용할 수 있습니다. 이 함수는 통계량과 유의확률(p-value)를 반환합니다.

예 1)

랜덤수로 이루어진 세 그룹의 등분산성을 검정하기 위해 Bartlett 검정을 실시합니다.

size=(10, 3)
np.random.seed(3)
x=np.random.randint(0, 100, size=(10, 3))
print(x)

[[24  3 56]
 [72  0 21]
 [19 74 41]
 [10 21 38]
 [96 20 44]
 [93 39 14]
 [26 81 90]
 [22 66  2]
 [63 60  1]
 [51 90 69]]

st, pV=stats.bartlett(x[:,0],x[:,1],x[:,2])
print(f'통계량: {round(st, 3)}, p-value: {round(pV, 3)}')

통계량: 0.157, p-value: 0.925

위 결과는 세 그룹의 분산이 같다는 귀무가설을 기각할 수 없음을 나타냅니다.

예 2)

일정기간의 코스피지수, 코스탁지수, 다우존스지수, 원-달러 환율의 일일 종가의 변화율 자료들의 등분산성을 검정합니다.

	kos	kq	dj	WonDol
1	0.016	0.008	0.006	0.002
2	-0.007	-0.004	0.014	-0.000
3	0.021	0.008	0.007	0.000
4	0.040	-0.001	0.002	0.006
5	-0.001	-0.011	-0.003	-0.000
⋮	⋮	⋮	⋮	⋮

이 자료는 다음 코드에 의해 호출하고 계산합니다.

st=pd.Timestamp(2021,1, 1)
et=pd.Timestamp(2024, 5, 30)
code=["KS11", "KQ11", "DJI", "USD/KRW"]
nme=['kos','kq','dj','WonDol']
da=pd.DataFrame()
for i in code:
    x=fdr.DataReader(i,st, et)['Close']
    x1=x.pct_change()
    da=pd.concat([da, x1], axis=1)
da.columns=nme
da.index=range(len(da))
da1=da.dropna()

st, pV=stats.bartlett(da1['kos'], da1['kq'], da1['dj'], da1['WonDol'])
print(f'통계량: {round(st, 3)}, p-value: {round(pV, 3)}')

통계량: 586.71, p-value: 0.0

위 결과의 매우 낮은 유의확률은 귀무가설을 기각할 수 있음을 나타냅니다. 즉, 각 그룹의 분산은 동일하지 않습니다. 그러나 bartlett 검정은 정규분포에 부합되는 자료들에만 적용할 수 있습니다. 다음 결과와 같이 위 자료들은 정규성을 따르지 않으므로 위 결과는 신뢰할 수 없습니다.

st, pv=np.array([0]), np.array([0])
for i in nme:
    st1,pv1=stats.shapiro(da1[i])
    st=np.append(st, st1)
    pv=np.append(pv, pv1)
re=pd.DataFrame([st[1:], pv[1:]], index=["통계량", "p-value"], columns=nme)
np.around(re, 3)

	kos	kq	dj	WonDol
통계량	0.991	0.985	0.984	0.978
p-value	0.000	0.000	0.000	0.000

위 결과로부터 모든 표본은 정규분포에 부합한다고 가정할 수 없습니다. 정규성 가정을 만족시키기 위해 각 자료들에 대한 표본분포를 구성하여 다시 검정해봅니다.

다음은 각 자료에서 300개의 표본을 추출하여 각 그룹의 평균값만으로 구성된 평균표본분포를 생성위한 코드입니다.

n=len(da1)
kos, kq, dj, wd=da1['kos'], da1['kq'], da1['dj'], da1['WonDol']
idx=[np.random.choice(range(n-1), 30, replace=False) for i in range(300)]
kos1=[kos.iloc[i].mean() for i in idx]
kq1=[kq.iloc[i].mean() for i in idx]
dj1=[dj.iloc[i].mean() for i in idx]
wd1=[wd.iloc[i].mean() for i in idx]

st_m, pv_m=np.array([0]), np.array([0])
for i, j in zip([kos1,kq1, dj1, wd1], nme):
    st_m1,pv_m1=stats.shapiro(np.array(i).reshape(-1,1))
    st_m=np.append(st_m, st_m1)
    pv_m=np.append(pv_m, pv_m1)
re=pd.DataFrame([st_m[1:], pv_m[1:]], index=["통계량", "p-value"], columns=nme)
np.around(re, 3)

	kos	kq	dj	WonDol
통계량	0.992	0.991	0.992	0.996
p-value	0.082	0.073	0.093	0.737

생성한 각 자료의 표본 분포는 모두 정규성을 만족합니다. 그러나 다음과 같이 각 자료의 분산은 동일하다고 할 수 없습니다.

st, pV=stats.bartlett(kos1, kq1, dj1, wd1)
print(f'통계량: {round(st, 3)}, p-value: {round(pV, 3)}')

통계량: 216.939, p-value: 0.0

위 표본샘플 데이터는 모두 정규분포를 따릅니다. 그러므로 각 데이터의 표준화에의해 표준정규분포에 적합시킬 수 있습니다. 즉, 표준화에 의해 4개 분포의 분산은 같아질 것입니다. 다음 코드의 결과는 이를 확인할 수 있습니다.

da2=pd.DataFrame([kos1, kq1, dj1, wd1]).T
da2.head(2).round(3)

	0	1	2	3
0	0.001	0.001	-0.001	0.000
1	-0.002	-0.003	-0.000	0.002

from sklearn.preprocessing import StandardScaler

scaler=StandardScaler().fit(da2)
daN=scaler.transform(da2)
print(np.around(daN[:3, :], 3))

[[ 0.466  0.429 -1.068  0.108]
 [-0.766 -1.131 -0.426  1.85 ]
 [-0.33  -1.455 -1.218 -0.165]]

st, pV=stats.bartlett(daN[:,0], daN[:,1], daN[:,2], daN[:,3])
print(f'통계량: {round(st, 3)}, p-value: {round(pV, 3)}')

통계량: 0.0, p-value: 1.0

대상 분포들이 정규분포에 부합한다는 가정이 만족되면 표준화에 의해 등분산을 가정하는 것은 합당합니다.

[Linear Algebra] 유사변환(Similarity transformation)

유사변환(Similarity transformation) n×n 차원의 정방 행렬 A, B 그리고 가역 행렬 P 사이에 식 1의 관계가 성립하면 행렬 A와 B는 유사행렬(similarity matrix)이 되며 행렬 A를 가역행렬 P와 B로 분해하는 것을 유사 변환(similarity transformation) 이라고 합니다. $$\tag{1} A = PBP^{-1} \Leftrightarrow P^{-1}AP = B $$ 식 2는 식 1의 양변에 B의 고유값을 고려한 것입니다. \begin{align}\tag{식 2} B - \lambda I &= P^{-1}AP – \lambda P^{-1}P\\ &= P^{-1}(AP – \lambda P)\\ &= P^{-1}(A - \lambda I)P \end{align} 식 2의 행렬식은 식 3과 같이 정리됩니다. \begin{align} &\begin{aligned}\textsf{det}(B - \lambda I ) & = \textsf{det}(P^{-1}(AP – \lambda P))\\ &= \textsf{det}(P^{-1}) \textsf{det}((A – \lambda I)) \textsf{det}(P)\\ &= \textsf{det}(P^{-1}) \textsf{det}(P) \textsf{det}((A – \lambda I))\\ &= \textsf{det}(A – \lambda I)\end{aligned}\\ &\begin{aligned}\because \; \textsf{det}(P^{-1}) \textsf{det}(P) &= \textsf{det}(P^{-1}P)\\ &= \textsf{det}(I)\end{aligned}\end{align} 유사행렬의 특성 유사행렬인 두 정방행렬 A와 B는 'A ~ B' 와 같...

유리함수 그래프와 점근선 그리기

내용 유리함수(Rational Function) 점근선(asymptote) 유리함수 그래프와 점근선 그리기 유리함수(Rational Function) 유리함수는 분수형태의 함수를 의미합니다. 예를들어 다음 함수는 분수형태의 유리함수입니다. $$f(x)=\frac{x^{2} - 1}{x^{2} + x - 6}$$ 분수의 경우 분모가 0인 경우 정의할 수 없습니다. 이와 마찬가지로 유리함수 f(x)의 정의역은 분모가 0이 아닌 부분이어야 합니다. 그러므로 위함수의 정의역은 분모가 0인 부분을 제외한 부분들로 구성됩니다. sympt=solve(denom(f), a); asympt [-3, 2] $$-\infty \lt x \lt -3, \quad -3 \lt x \lt 2, \quad 2 \lt x \lt \infty$$ 이 정의역을 고려해 그래프를 작성을 위한 사용자 정의함수는 다음과 같습니다. def validX(x, f, symbol): ① a=[] b=[] for i in x: try: b.append(float(f.subs(symbol, i))) a.append(i) except: pass return(a, b) #x는 임의로 지정한 정의역으로 불연속선점을 기준으로 구분된 몇개의 구간으로 전달할 수 있습니다. #그러므로 인수 x는 2차원이어야 합니다. def RationalPlot(x, f, sym, dp=100): fig, ax=plt.subplots(dpi=dp) # ② for k in x: #③ x4, y4=validX(k, f, sym) ax.plot(x4, y4) ax.spines['left'].set_position(('data', 0)) ax.spines['right...

부분분수의 미분

내용 방법 1 방법 2 방법 3 부분분수의 미분 분수의 미분은 일정한 공식 을 적용하여 계산할 수 있습니다. 그러나 분수 자체가 단순한 표현으로 이루어지지 않았다면 미분 과정이나 결과는 매우 복잡할 수 있습니다. 만약 복잡한 분수 함수를 간단한 분수들로 분해할 수 있다면 계산이 보다 간편해질 것입니다. 이와 같이 분해된 간단한 분수들을 부분분수 라고 합니다. 예를 들어 다음 두 분수의 합을 계산해 봅니다. $$\begin{align} \frac{1}{x+1}+\frac{2}{x-1}&=\frac{x-1+2(x+1)}{(x+1)(x-1)}\\ &=\frac{3x+1}{x^2-1} \end{align}$$ 위 과정은 3개 이상의 여러 분수에서도 이루어질 수 있습니다. 또한 역으로 진행될 수 있습니다. 즉, 분수를 부분 분수로 분할할 수 있습니다. 그러나 이러한 과정은 대수분수 (분자의 가장 큰 차수가 분모의 최고의 차수보다 작은 분수)에서만 이루어질 수 있습니다. 예를 들어 $\displaystyle \frac {x^2+2}{x^2-1}$의 경우는 분자와 분모의 차수는 2차로 같습니다. 이러한 경우 다음과 같이 분리할 수 있습니다. $$\frac{x^2+2}{x^2-1}=1+\frac{3}{x^2-1}$$ 위의 식 중 $\displaystyle \frac{3}{x^2-1}$은 분자의 차수가 분모의 차수 보다 낮은 대수 분수이므로 부분 분수로 분리할 수 있습니다. 이와같이 부분 분수로 분해하는 방법은 다음과 같이 몇 가지로 구분할 수 있습니다. 방법 1 위 예의 결과 $\displaystyle \frac{3x+1}{x^2-1}$의 경우를 역으로 생각해 봅니다. 분모의 인수분해가 가능하면 그 분모의 인수에 의해 다음과 같이 분해할 수 있습니다. $$\begin{align} \frac{3x+1}{x^2-1}&=\frac{3x+1}{(x+1)(x-1)}\\ &=\frac{A}{x+1...

sons dataStory

이 블로그 검색

pandas_ta를 적용한 통계적 인덱스 지표