기본 콘텐츠로 건너뛰기

[ML] 결정트리(Decision Tree) 모델

R 등분산성( Homoscedasticity)

등분산성( Homoscedasticity)

Bartlett 검정

Bartlett 검정은 집단간 분산에 대해 등분산성을 검정합니다. 이 검정은 두 집단 이상의 자료형식에서도 적용할 수 있으므로 t-검정 또는 일원분산분석에 적용할 자료의 등분산성 가정을 위한 검정에 사용합니다. 이 검정은 정규성에 부합하는 자료에만 적용될 수 있습니다.

검정 통계량은 다음과 같습니다.

$$T=\frac{(N-k)\ln(s^2_p)-\sum^k_{i=1}(N_i-1)\ln(s^2_i)}{1+\frac{1}{3(k-1)}\left(\left(\sum^k_{i=1}\frac{1}{N_i-1}\right) - \frac{1}{N-k}\right)}$$
  • s2i: i 레벨(그룹)의 분산
  • N: 자료의 크기
  • k: 레벨(집단)dml tn
  • s2p: 합동분산(pooled variance)
  • $$s^2_p=\sum^k_{i=1}\frac{N_i-1}{N-k}s^2_i$$

검정의 가설은 다음과 같습니다.

귀무가설(H0): 집단간 분산이 같다.
대립가설(Ha): 최소한 두 집단간의 분산이 다르다.

multcomp 패키지의 데이터 셋 choloesterol을 대상으로 이 검정을 실시 합니다. 이 데이터는 다음과 같이 요인변수인 trt와 연속형 변수인 response로 구성됩니다. 요인은 5개의 수준(그룹)을 포함합니다. 그러므로 각 그룹 대응한 response 값들에 대한 등분산성을 평가합니다.

library(tidyverse)
library(rstatix)
library(multcomp)
chol %>% sample_n_by(trt, size=1)
# A tibble: 5 × 2
  trt    response
       
1 1time      2.71
2 2times     8.60
3 4times    12.4
4 drugD     17.6
5 drugE     21.5
bartlett.test(response~trt, data=cholesterol)
        Bartlett test of homogeneity of variances

data:  response by trt
Bartlett's K-squared = 0.6, df = 4, p-value = 1

위 결과는 5개 그룹의 분산이 같다는 귀무가설을 기각할 수 없습니다.

Fligner 검정

데이터의 정규성을 파악할 수 없는 경우 비모수 방법인 Fligner 검정으로 등분산성을 검정할 수 있습니다. Fligner-Killeen 중앙값 검정은 정규성에서 벗어나는 것에 대해 강력한 분산의 동질성에 대한 검정입니다(Conover et al.(1981), [CON1]). 중심 표본의 절대값 순위와 가중치를 사용하는 k-표본 단순 선형 순위 방법입니다.

$$a_i=\text{qnorm}\left(\frac{1}{2}+\frac{i}{2(n+1)}\right)$$

qnorm()은 정규분포에서 인수에 대응하는 quantiles을 반환하는 R 함수입니다. R 에서 fligner.test() 함수를 적용합니다.

fligner.test(response~trt, data=cholesterol)
        Fligner-Killeen test of homogeneity of variances

data:  response by trt
Fligner-Killeen:med chi-squared = 0.74277, df = 4, p-value = 0.946  

위 결과 역시 bartlett 검정과 같습니다. 높은 p-value로서 등분산성의 귀무가설을 기각할 수 없습니다.

Leven 검정

Level 검정은 Bartlett 검정의 대안으로 자료의 정규성이 불확실한 경우 레벨 k의 등분산성을 검정합니다. 그러나 정규성이 확실한 경우 Bartlett 검정이 우선됩니다.

  • H0: σ1 = σ2 = … = σk
  • H1: L 그룹의 모집단 최소한 한 그룹의 분산이 다름

검정통계량은 다음과 같습니다.

$$\begin{align}&W=\frac{N-k}{k-1}\frac{\sum^k_{i=1}n_i(Z_{i.}-Z_{..})^2}{\sum^k_{i=1}\sum^{n_i}_{j=1}(Z_{ij}-Z_{i.})^2}\\ &Z_i=\frac{1}{n_i}\sum^{n_i}_{j=1}Z_{ij}\\ &Z_{..}=\frac{1}{N}\sum^k_{i=1}\sum^{n_i}_{j=1}Z_{ij}\end{align}$$
  • k: 그룹의 수
  • ni: i번째 그룹에 속하는 샘플의 수
  • N: 총 샘플 수
  • Zij: i번째 그룹의 j번째 관측값 YijYi의 L1 norm입니다.

Zij는 다음 식과 같이 계산됩니다.

$$\begin{equation}Z_{ij}=\Vert Y_{ij}-\bar{Y}_i \Vert \end{equation}$$

Yi은 i번째 그룹의 중간값(median), 또는 평균(mean), 또는 절삭평균(trimmed mean)입니다.

Levene은 원래 평균을 사용할 것을 제안했지만 1974년 Brown과 Forsythe의 논문은 Levene의 검정을 중앙값 또는 절삭 평균을 사용하도록 확장했습니다. 중위수는 일반적으로 비정규 데이터에 대해 더 강력하므로 권장되지만 표본의 기본 분포가 알려진 경우 절삭평균이 더 나은 성능을 제공할 수 있습니다.

W 테스트 통계는 k−1 및 n−k 자유도로 대략 F-분포에 부합합니다.

car패키지leveneTest()함수를 적용합니다.

leveneTest(y, group, [data], center=median, trim,...)
y: 반응변수
group: 설명변수, 반응변수~설명변수와 같은 formular로 대체 가능
formula 사용시 data를 지정합니다.
center: 대표값(중앙값, 평균, 절삭평균), 기본은 중앙값
trim: 절삭평균을 사용할 경우 절삭할 기준을 지정
library(car)
leveneTest(response~trt, data=cholesterol)
Levene's Test for Homogeneity of Variance (center = median)
      Df F value Pr(>F)
group  4  0.0755 0.9893
      45

댓글

이 블로그의 인기 게시물

[Linear Algebra] 유사변환(Similarity transformation)

유사변환(Similarity transformation) n×n 차원의 정방 행렬 A, B 그리고 가역 행렬 P 사이에 식 1의 관계가 성립하면 행렬 A와 B는 유사행렬(similarity matrix)이 되며 행렬 A를 가역행렬 P와 B로 분해하는 것을 유사 변환(similarity transformation) 이라고 합니다. $$\tag{1} A = PBP^{-1} \Leftrightarrow P^{-1}AP = B $$ 식 2는 식 1의 양변에 B의 고유값을 고려한 것입니다. \begin{align}\tag{식 2} B - \lambda I &= P^{-1}AP – \lambda P^{-1}P\\ &= P^{-1}(AP – \lambda P)\\ &= P^{-1}(A - \lambda I)P \end{align} 식 2의 행렬식은 식 3과 같이 정리됩니다. \begin{align} &\begin{aligned}\textsf{det}(B - \lambda I ) & = \textsf{det}(P^{-1}(AP – \lambda P))\\ &= \textsf{det}(P^{-1}) \textsf{det}((A – \lambda I)) \textsf{det}(P)\\ &= \textsf{det}(P^{-1}) \textsf{det}(P) \textsf{det}((A – \lambda I))\\ &= \textsf{det}(A – \lambda I)\end{aligned}\\ &\begin{aligned}\because \; \textsf{det}(P^{-1}) \textsf{det}(P) &= \textsf{det}(P^{-1}P)\\ &= \textsf{det}(I)\end{aligned}\end{align} 유사행렬의 특성 유사행렬인 두 정방행렬 A와 B는 'A ~ B' 와 같

[matplotlib] 히스토그램(Histogram)

히스토그램(Histogram) 히스토그램은 확률분포의 그래픽적인 표현이며 막대그래프의 종류입니다. 이 그래프가 확률분포와 관계가 있으므로 통계적 요소를 나타내기 위해 많이 사용됩니다. plt.hist(X, bins=10)함수를 사용합니다. x=np.random.randn(1000) plt.hist(x, 10) plt.show() 위 그래프의 y축은 각 구간에 해당하는 갯수이다. 빈도수 대신 확률밀도를 나타내기 위해서는 위 함수의 매개변수 normed=True로 조정하여 나타낼 수 있다. 또한 매개변수 bins의 인수를 숫자로 전달할 수 있지만 리스트 객체로 지정할 수 있다. 막대그래프의 경우와 마찬가지로 각 막대의 폭은 매개변수 width에 의해 조정된다. y=np.linspace(min(x)-1, max(x)+1, 10) y array([-4.48810153, -3.54351935, -2.59893717, -1.65435499, -0.70977282, 0.23480936, 1.17939154, 2.12397372, 3.0685559 , 4.01313807]) plt.hist(x, y, normed=True) plt.show()

R 미분과 적분

내용 expression 미분 2차 미분 mosaic를 사용한 미분 적분 미분과 적분 R에서의 미분과 적분 함수는 expression()함수에 의해 생성된 표현식을 대상으로 합니다. expression expression(문자, 또는 식) 이 표현식의 평가는 eval() 함수에 의해 실행됩니다. > ex1<-expression(1+0:9) > ex1 expression(1 + 0:9) > eval(ex1) [1] 1 2 3 4 5 6 7 8 9 10 > ex2<-expression(u, 2, u+0:9) > ex2 expression(u, 2, u + 0:9) > ex2[1] expression(u) > ex2[2] expression(2) > ex2[3] expression(u + 0:9) > u<-0.9 > eval(ex2[3]) [1] 0.9 1.9 2.9 3.9 4.9 5.9 6.9 7.9 8.9 9.9 미분 D(표현식, 미분 변수) 함수로 미분을 실행합니다. 이 함수의 표현식은 expression() 함수로 생성된 객체이며 미분 변수는 다음 식의 분모의 변수를 의미합니다. $$\frac{d}{d \text{변수}}\text{표현식}$$ 이 함수는 어떤 함수의 미분의 결과를 표현식으로 반환합니다. > D(expression(2*x^3), "x") 2 * (3 * x^2) > eq<-expression(log(x)) > eq expression(log(x)) > D(eq, "x") 1/x > eq2<-expression(a/(1+b*exp(-d*x))); eq2 expression(a/(1 + b * exp(-d * x))) > D(eq2, "x") a * (b * (exp(-d * x) * d))/(1 + b