기본 콘텐츠로 건너뛰기

[matplotlib] 등고선(Contour)

[data analysis] 카이제곱 검정(χ2 test)

카이제곱 검정(χ2 test)

카이제곱검정(χ2 검정)카이제곱분포(chi-squared distribution)를 기준으로 귀무가설을 검정하는 분석 방법입니다. 카이제곱분포는 2개 이상의 독립적으로 정규분포를 따르는 변수들의 제곱으로 생성됩니다. 예를 들어 식 1과 같이 표준화된 변수들의 제곱은 자유도가 1인 카이제곱 분포에 부합합니다.

Y=(xiμσ)2 (식 1)

그러므로 카이제곱 분포에 부합한다는 것은 비교되는 샘플들 간의 독립임을 의미합니다. 즉, 카이제곱 검정의 귀무가설은 다음과 같습니다.

H0: 각 그룹들은 독립입니다.

예 1)

코스피 지수(kos)에 대해 하루 앞선 원화 환율(ex)의 일일 시가 대비 종가의 상승과 하락에 대한 두 자료는 독립적임을 검정합니다.

이 자료를 작성하기 위해 FinanceDatareder.DataReader() 함수로 특정한 기간의 금융자료를 호출하였습니다. 호출된 자료는 연속변수로서 목록변수로 전환하기 위해 pd.cut() 함수를 적용합니다. 또한 두 데이터들을 결합하기 위해 pd.concat()를 적용합니다.

st=pd.Timestamp(2022,1,1)
et=pd.Timestamp(2023, 4, 10)
kos=fdr.DataReader('KS11', st, et)["Close"]
ex=fdr.DataReader('USD/KRW',st, et)["Close"]
kos=kos.pct_change()[1:]*100
ex=ex.pct_change()[1:]*100
kos1=pd.cut(kos, bins=[kos.min()-0.1, 0, kos.max()+0.1], labels=[0, 1])
ex1=pd.cut(ex, bins=[ex.min()-0.1, 0, ex.max()+0.1], labels=[0, 1])
data=pd.concat([ex1, kos1.shift(periods=-1)], join="inner", axis=1)
data.index=range(len(data))
data.columns=['ex', 'kos']
data=data.dropna()
data.head()
ex kos
0 1 1
1 1 1
2 0 1
3 1 1
4 0 1
data.shape
(343, 2)

다음 코드에서 두 변수에 대한 교차표를 작성하기 위해 pd.crosstab() 함수를 적용하였습니다.

table=pd.crosstab(data['kos'], data['ex'], rownames=["kos"], colnames=["ex"], margins=True)
np.around(table, 3)
ex 0 1 All
kos
0 71 92 163
1 81 99 180
All 152 191 343

두 변수에 대한 각 자료의 규모는 정규분포를 따른다는 가정이 가능한 수준입니다. 그러므로 각 자료의 제곱의 합은 카이제곱분포에 부합한다고 할 수 있습니다. 이 두 자료에 대한 통계량은 식 2와 같이 계산됩니다.

χ2통계량=(관측빈도 - 기대빈도)2기대빈도(식 2)

식 2의 기대빈도(확률)는 두 자료가 독립임을 가정하여 계산된 빈도(확률)를 의미합니다. 예를 들어 위의 교차표에서 두 그룹이 독립이라면 위 결과의 셀인덱스 [0, 0]에 대한 기대 빈도는 식 3과 같이 계산할 수 있습니다.

ex가 0인 빈도×kos가 0인 빈도전체수=136×151310(식 3)

위 방식으로 각 셀에 대응하는 기대확률을 계산하면 다음과 같습니다.

p_exp=np.zeros((2,2))
k=0
for i in table.iloc[:2,2]:
  m=0
  for j in table.iloc[2,:2]:
    p_exp[k, m]=i*j/table.iloc[2,2]
    m +=1
  k +=1
print(p_exp.round(3))
[[ 72.233  90.767]
 [ 79.767 100.233]]

위 기대빈도를 적용하여 통계량을 계산합니다.

test=np.sum((table.values[:2,:2]-p_exp)**2/p_exp)
round(test, 3)
0.072
p_value=stats.chi2.sf(test, 1)
round(p_value, 3)
0.788
ci=stats.chi2.ppf(0.95, 1)
print(f"신뢰구간 하한: {ci.round(3)}")
신뢰구간 하한: 3.841

χ2의 검정은 "비교하는 그룹들이 독립이다"는 귀무가설(H0)을 검정하는 것입니다. 위 결과에 의하면 검정통계량은 유의수준 0.05에 대응하는 신뢰구간에 포함되며 유의확률(p-value) 역시 0.05에 비해 매우 크므로 귀무가설을 기각할 수 없습니다. 즉, 두 그룹은 독립입니다.

이 분석은 stats.chi2_contingency(교차표, correction=True) 함수를 사용할 수 있습니다. 이 함수는 검정통계량, p-value, 자유도, 기대빈도를 반환합니다. 이 함수의 인수 correction은 Yates' correction의 적용여부를 지정하는 것으로 각 관찰 값에 대응하는 예상 값을 향해 0.5만큼 조정하는 것입니다. 다음의 경우 이 수정을 적용하지 않았습니다.

stat, Pval, df, exp=stats.chi2_contingency(table.iloc[:2,:2], correction=False)
print(f'검정통계량: {stat.round(3)} , p-value: {Pval.round(3)} , 자유도: {df}\n기대빈도: {np.around(exp, 3)}')
검정통계량: 0.072 , p-value: 0.788 , 자유도: 1
기대빈도: [[ 72.233  90.767]
 [ 79.767 100.233]]

댓글

이 블로그의 인기 게시물

[Linear Algebra] 유사변환(Similarity transformation)

유사변환(Similarity transformation) n×n 차원의 정방 행렬 A, B 그리고 가역 행렬 P 사이에 식 1의 관계가 성립하면 행렬 A와 B는 유사행렬(similarity matrix)이 되며 행렬 A를 가역행렬 P와 B로 분해하는 것을 유사 변환(similarity transformation) 이라고 합니다. (1)A=PBP1P1AP=B 식 2는 식 1의 양변에 B의 고유값을 고려한 것입니다. (식 2)BλI=P1APλP1P=P1(APλP)=P1(AλI)P 식 2의 행렬식은 식 3과 같이 정리됩니다. det(BλI)=det(P1(APλP))=det(P1)det((AλI))det(P)=det(P1)det(P)det((AλI))=det(AλI)det(P1)det(P)=det(P1P)=det(I) 유사행렬의 특성 유사행렬인 두 정방행렬 A와 B는 'A ~ B' 와 같...

[sympy] Sympy객체의 표현을 위한 함수들

Sympy객체의 표현을 위한 함수들 General simplify(x): 식 x(sympy 객체)를 간단히 정리 합니다. import numpy as np from sympy import * x=symbols("x") a=sin(x)**2+cos(x)**2 a sin2(x)+cos2(x) simplify(a) 1 simplify(b) x3+x2x1x2+2x+1 simplify(b) x - 1 c=gamma(x)/gamma(x-2) c Γ(x)Γ(x2) simplify(c) (x2)(x1) 위의 예들 중 객체 c의 감마함수(gamma(x))는 확률분포 등 여러 부분에서 사용되는 표현식으로 다음과 같이 정의 됩니다. 감마함수는 음이 아닌 정수를 제외한 모든 수에서 정의됩니다. 식 1과 같이 자연수에서 감마함수는 factorial(!), 부동소수(양의 실수)인 경우 적분을 적용하여 계산합니다. (식 1)Γ(n)={(n1)!n:자연수0xn1exdxn:부동소수 x=symbols('x') gamma(x).subs(x,4) 6 factorial 계산은 math.factorial() 함수를 사용할 수 있습니다. import math math.factorial(3) 6 a=gamma(x).subs(x,4.5) a.evalf(3) 11.6 simpilfy() 함수의 알고리즘은 식에서 공통사항을 찾아 정리하...

sympy.solvers로 방정식해 구하기

sympy.solvers로 방정식해 구하기 대수 방정식을 해를 계산하기 위해 다음 함수를 사용합니다. sympy.solvers.solve(f, *symbols, **flags) f=0, 즉 동차방정식에 대해 지정한 변수의 해를 계산 f : 식 또는 함수 symbols: 식의 해를 계산하기 위한 변수, 변수가 하나인 경우는 생략가능(자동으로 인식) flags: 계산 또는 결과의 방식을 지정하기 위한 인수들 dict=True: {x:3, y:1}같이 사전형식, 기본값 = False set=True :{(x,3),(y,1)}같이 집합형식, 기본값 = False ratioal=True : 실수를 유리수로 반환, 기본값 = False positive=True: 해들 중에 양수만을 반환, 기본값 = False 예 x2=1의 해를 결정합니다. solve() 함수에 적용하기 위해서는 다음과 같이 식의 한쪽이 0이 되는 형태인 동차식으로 구성되어야 합니다. x21=0 import numpy as np from sympy import * x = symbols('x') solve(x**2-1, x) [-1, 1] 위 식은 계산 과정은 다음과 같습니다. x21=0(x+1)(x1)=0x=1or1x4=1의 해를 결정합니다. solve() 함수의 인수 set=True를 지정하였으므로 결과는 집합(set)형으로 반환됩니다. eq=x**4-1 solve(eq, set=True) ([x], {(-1,), (-I,), (1,), (I,)}) 위의 경우 I는 복소수입니다.즉 위 결과의 과정은 다음과 같습니다. x41=(x2+1)(x+1)(x1)=0x=±1,±1=±i,±1 실수...