[data analysis] 회귀모형에서 이상치(outlier) 파악

회귀모형에서 이상치(outlier) 파악

관련된 내용

• Hat 행렬
• 레버리지(Leverage)
• 스튜던트 잔차(rstudent)
• Cook's Distance(D)

회귀계수의 검정에서 사용한 f분포는 기본적으로 검정대상이 정규분포에 부합한다는 가정하에 실시합니다. 이점은 회귀분석의 기본가정인 정규성에 대한 이유가 되며 이것을 확인하기 위해 모델에 의해 생성되는 확률변수인 잔차의 정규성을 검정합니다. 정규성을 시각적으로 판단하기 위해 그림 1과 같은 q-q plot을 사용하며 정량적인 검정을 위해 Shapiro-wilk 또는 Anderson-Darling 검정방법을 적용할 수 있습니다.

그림 1은 stats.probplot()에 의한 qq plot으로 양끝에서 정규성에 이탈하는 모양을 나타냅니다. 이에 대한 정량적인 검정은 stats.shapiro() 함수에 의해 실행합니다.

그림 1은 다음 코드로 생성되는 특정한 기간의 코스피 주가의 Open과 Close에 대한 회귀모델에서의 오차(error)에 대한 것입니다. 이 과정에서 원시데이터는 표준화하였습니다.

import numpy as np 
import pandas as pd 
from sklearn.preprocessing import StandardScaler 
from sklearn.linear_model import LinearRegression
from scipy import stats
import matplotlib.pyplot as plt
import FinanceDataReader as fdr

st=pd.Timestamp(2021,1, 1)
et=pd.Timestamp(2024, 5, 10)
kos=fdr.DataReader('KS11',st, et)[["Open","Close"]]
kos.index=range(len(kos))
X=kos.values[:,0].reshape(-1,1)
y=kos.values[:,1].reshape(-1,1)

#독립변수 정규화(표준화)
xScaler=StandardScaler().fit(X)
X_n=xScaler.transform(X)
#반응변수 정규화(표준화)
yScaler=StandardScaler().fit(y)
y_n=yScaler.transform(y)

import statsmodels.api as sm
X_n0=sm.add_constant(X_n)
X_n0.shape, y_n.shape
reg=sm.OLS(y_n, X_n0).fit()

그림 1. 오차의 Q-Q plot.

err=reg.resid
plt.figure(figsize=(5,4))
errorRe=stats.probplot(err.ravel(), plot=plt)

norRe=stats.shapiro(err.ravel())
print("통계량: %.f, p-value: %.3f" %(norRe[0], norRe[1]))

통계량: 1, p-value: 0.000

위 결과에 의하면 오차는 정규성을 만족하는 귀무가설을 기각할 수 있습니다. 이것은 회귀계수의 검정이나 모형의 정확도 검정 모두 정규분포를 기반으로 하기 때문에 회귀모델의 신뢰도를 감소시킵니다. 이 결과는 주로 자료에 포함된 이상치(outlier)들에 의해 기인합니다. 특히 실험 데이터가 아닌 경우 이러한 문제의 발생이 보편적입니다. 그러므로 이상치 제외 등 자료의 조정으로 다시 분석할 수 있습니다.

자료의 이상치를 검사하는 다양한 방법이 존재하지만 소개되는 방법들이 많이 사용되며 statsmodel.api.OLS()에 의해 생성되는 모델의 get_influence() 메소드로 확인할 수 있습니다.

• Hat 행렬
• 레버리지(Leverage)
• 스튜던트 잔차(rstuedent)
• Cook's Distance(Di)
• DFFITS(Difference un fits)