[data analysis]shapiro-Wilk test

shapiro-Wilk test

관련된 내용

표본 x₁, x₂, …, x_n이 정규분포에 부합성 여부를 검정하기 위해 식 1과 같이 계산되는 shapiro-Wilk통계량인 W를 사용하여 귀무가설(H0: 정규분포를 따릅니다.) 검정을 실시합니다.

\begin{align}W&=\frac{\left(\sum^m_{i=1}a_ix_{(i)} \right)^2}{\sum^n_{i=1}(x_i-\bar{x})^2}\\x_{(i)}&=x_{n+1-i}-x_i\\ & n: \text{표본의 크기}\\ & m=\begin{cases}\frac{n}{2}&\text{for}\;n=\text{짝수}\\\frac{n-1}{2}&\text{for}\;n=\text{홀수} \end{cases}\end{align}

(식 1)

식 1에서 a_i는 두 값 차이에 대한 가중치입니다. 그 가중치들은 정렬된 자료의 평균, 표준편차 등 통계량을 기준으로 산출된 상수로서 shapiro-Wilk table에서 결정할 수 있습니다.

식 1의 x_(i)를 나타내는 i는 [0, m] 사이의 정수값입니다. 즉 W값은 전체 퍼짐의 정도에서 각각의 작은값과 큰값의 차이의 비를 나타낸 값입니다. Shapiro-Wilk 검정의 W는 다음 과정으로 계산합니다.

data 정렬
SS 계산
- $SS=\sum^n_{i=1}(x_i-\bar{x})^2$
W의 분자인 b를 계산
- $b=\sum^m_{i=1} a_i(x_{n+1-i}-x_i)$
검정 통계량(W)계산
- $W=\frac{b^2}{SS}$
shapiro-Wilk table를 기준으로 p-value를 산출
- shapiro-Wilk table은 샘플수에 대한 가중치(a_i)와 특정 유의확률에 대응하는 W값을 계산한 표입니다.

이 검정은 scipy라이브러리의 stats.shapiro() 함수를 사용하여 실시할 수 있습니다.

예 1)

다음 나이에 대한 자료가 정규분포에 부합 여부에 대해 shapiro-Wilk 검정을 적용합니다.

age	65	61	63	86	70	55	74	35	72	68	45	58

위 자료를 내림차순으로 정리합니다.

age=np.array([65,61,63,86,70,55,74,35,72,68,45,58])
ageSort=np.sort(age)
print(ageSort)

[35 45 55 58 61 63 65 68 70 72 74 86]

위 자료는 샘플수(n)이 12이므로 $m =\frac{12}{2} = 6$으로서 6개의 가중치가 존재합니다. 각 가중치를 shapiro-Wilk table에서 결정하고 통계량 W를 계산합니다.

n=len(age)
m=np.array([n/2 if n%2==0 else (n-1)/2], dtype=np.int16)
print(m)

[6]

ss=np.sum((ageSort-np.mean(ageSort))**2)
print("ss: %.3f" %ss)

ss: 2008.667

다음 코드의 객체 a는 shapiro-Wilk table로부터 결정되는 값들입니다.

a=np.array([0.5475,0.3325,0.2347,0.1586,0.0922,0.0303])
age1=[ageSort[n-(i+1)]-ageSort[i] for i in range(m[0])];age1

[51, 29, 17, 12, 7, 2]

b=np.sum(a*age1); b

44.1641

w=b**2/ss; w

0.9710260847046132

위 결과의 통계량에 대한 유의확률은 shapiro-Wilk table로부터의 값으로 외삽법을 사용하여 계산할 수 있습니다. 이 부분은 생략하며 stats.shapiro() 함수를 사용하여 유의확률을 확인합니다.

re=stats.shapiro(age)
print("통계량(w): %.3f, p-value: %.3f" %(re[0], re[1]))

통계량(w): 0.971, p-value: 0.922

유의수준 0.05 또는 0.1보다 크므로 위 자료 age는 정규분포를 따른다는 귀무가설을 기각할 수 없습니다. 이 결과에 대한 Q-Q plot은 그림 1과 같습니다.

plt.figure(figsize=(4,2))
stats.probplot(age, plot=plt, rvalue=True)
plt.show()

예 2)

다음은 일정한 기간의 kospi 지수와 kosdaq 지수의 일일 종가 자료입니다.

	kospi	kosdaq
0	2669.8	878.9
1	2607.3	871.6
2	2587.0	866.2
3	2578.1	878.3
4	2567.8	879.3
⋮	⋮	⋮

각 자료의 정규성을 파악하기 위해 shapiro-Wilk 검정을 실시해 봅니다.

위 자료를 생성하기 위한 코드입니다. 자료간의 스케일의 차이를 보정하기 위해 각 자료를 표준화하였습니다.

st=pd.Timestamp(2024,1,1)
et=pd.Timestamp(2024, 5, 30)
kos=fdr.DataReader("KS11",st, et)["Close"]
kq=fdr.DataReader("KQ11", st, et)["Close"]
kos1=(kos-kos.mean())/kos.std()
kq1=(kq-kq.mean())/kq.std()

위 코드로부터 작성된 자료 kos1과 ex1에 대한 Shapiro-Wilk 분석을 실행합니다.

kos_sh=stats.shapiro(kos1)
print("통계량: %.3f, p-value: %.3f" %(kos_sh[0], kos_sh[1]))

통계량: 0.921, p-value: 0.000

kq_sh=stats.shapiro(kq1)
print("통계량: %.3f, p-value: %.3f" %(kq_sh[0], kq_sh[1]))

통계량: 0.984, p-value: 0.250

유의수준 0.05를 기준으로 kospi는 매우 낮은 p-value를 보이므로 정규성을 따른다는 귀무가설을 기각할 수 있습니다. 반면에 kosdaq의 경우는 귀무가설을 기각할 수 없습니다.이 두 결과는 그림 2와 같이 시각화 할 수 있습니다.

plt.figure(figsize=(8, 3))
ax1 = plt.subplot(121)
res = stats.probplot(kos1, plot=plt, rvalue=True)
ax1.set_title("Q-Q plot: KOSPI")
ax2 = plt.subplot(122)
res = stats.probplot(kq1, plot=plt, rvalue=True)
ax2.set_title("Q-Q plot: kq")
ax2.set_ylabel("")
plt.show()

[Linear Algebra] 유사변환(Similarity transformation)

유사변환(Similarity transformation) n×n 차원의 정방 행렬 A, B 그리고 가역 행렬 P 사이에 식 1의 관계가 성립하면 행렬 A와 B는 유사행렬(similarity matrix)이 되며 행렬 A를 가역행렬 P와 B로 분해하는 것을 유사 변환(similarity transformation) 이라고 합니다. $$\tag{1} A = PBP^{-1} \Leftrightarrow P^{-1}AP = B $$ 식 2는 식 1의 양변에 B의 고유값을 고려한 것입니다. \begin{align}\tag{식 2} B - \lambda I &= P^{-1}AP – \lambda P^{-1}P\\ &= P^{-1}(AP – \lambda P)\\ &= P^{-1}(A - \lambda I)P \end{align} 식 2의 행렬식은 식 3과 같이 정리됩니다. \begin{align} &\begin{aligned}\textsf{det}(B - \lambda I ) & = \textsf{det}(P^{-1}(AP – \lambda P))\\ &= \textsf{det}(P^{-1}) \textsf{det}((A – \lambda I)) \textsf{det}(P)\\ &= \textsf{det}(P^{-1}) \textsf{det}(P) \textsf{det}((A – \lambda I))\\ &= \textsf{det}(A – \lambda I)\end{aligned}\\ &\begin{aligned}\because \; \textsf{det}(P^{-1}) \textsf{det}(P) &= \textsf{det}(P^{-1}P)\\ &= \textsf{det}(I)\end{aligned}\end{align} 유사행렬의 특성 유사행렬인 두 정방행렬 A와 B는 'A ~ B' 와 같...

[sympy] Sympy객체의 표현을 위한 함수들

Sympy객체의 표현을 위한 함수들 General simplify(x): 식 x(sympy 객체)를 간단히 정리 합니다. import numpy as np from sympy import * x=symbols("x") a=sin(x)**2+cos(x)**2 a $\sin^{2}{\left(x \right)} + \cos^{2}{\left(x \right)}$ simplify(a) 1 simplify(b) $\frac{x^{3} + x^{2} - x - 1}{x^{2} + 2 x + 1}$ simplify(b) x - 1 c=gamma(x)/gamma(x-2) c $\frac{\Gamma\left(x\right)}{\Gamma\left(x - 2\right)}$ simplify(c) $\displaystyle \left(x - 2\right) \left(x - 1\right)$ 위의 예들 중 객체 c의 감마함수(gamma(x))는 확률분포 등 여러 부분에서 사용되는 표현식으로 다음과 같이 정의 됩니다. 감마함수는 음이 아닌 정수를 제외한 모든 수에서 정의됩니다. 식 1과 같이 자연수에서 감마함수는 factorial(!), 부동소수(양의 실수)인 경우 적분을 적용하여 계산합니다. $$\tag{식 1}\Gamma(n) =\begin{cases}(n-1)!& n:\text{자연수}\\\int^\infty_0x^{n-1}e^{-x}\,dx& n:\text{부동소수}\end{cases}$$ x=symbols('x') gamma(x).subs(x,4) $\displaystyle 6$ factorial 계산은 math.factorial() 함수를 사용할 수 있습니다. import math math.factorial(3) 6 a=gamma(x).subs(x,4.5) a.evalf(3) 11.6 simpilfy() 함수의 알고리즘은 식에서 공통사항을 찾아 정리하...

유리함수 그래프와 점근선 그리기

내용 유리함수(Rational Function) 점근선(asymptote) 유리함수 그래프와 점근선 그리기 유리함수(Rational Function) 유리함수는 분수형태의 함수를 의미합니다. 예를들어 다음 함수는 분수형태의 유리함수입니다. $$f(x)=\frac{x^{2} - 1}{x^{2} + x - 6}$$ 분수의 경우 분모가 0인 경우 정의할 수 없습니다. 이와 마찬가지로 유리함수 f(x)의 정의역은 분모가 0이 아닌 부분이어야 합니다. 그러므로 위함수의 정의역은 분모가 0인 부분을 제외한 부분들로 구성됩니다. sympt=solve(denom(f), a); asympt [-3, 2] $$-\infty \lt x \lt -3, \quad -3 \lt x \lt 2, \quad 2 \lt x \lt \infty$$ 이 정의역을 고려해 그래프를 작성을 위한 사용자 정의함수는 다음과 같습니다. def validX(x, f, symbol): ① a=[] b=[] for i in x: try: b.append(float(f.subs(symbol, i))) a.append(i) except: pass return(a, b) #x는 임의로 지정한 정의역으로 불연속선점을 기준으로 구분된 몇개의 구간으로 전달할 수 있습니다. #그러므로 인수 x는 2차원이어야 합니다. def RationalPlot(x, f, sym, dp=100): fig, ax=plt.subplots(dpi=dp) # ② for k in x: #③ x4, y4=validX(k, f, sym) ax.plot(x4, y4) ax.spines['left'].set_position(('data', 0)) ax.spines['right...

sons dataStory

이 블로그 검색

pandas_ta를 적용한 통계적 인덱스 지표