기본 콘텐츠로 건너뛰기

[ML] 결정트리(Decision Tree) 모델

R t-검정

내용

t-tests

두 그룹을 비교하는 연구에서 사용합니다. 범주형 변수의 경우 χ2 분석이나 상관성 분석으로 진행할 수 있습니다.

MASS 패키지와 함께 배포되는 UScrime 데이터 세트를 사용합니다. 여기에는 1960년 미국 47개 주에서 범죄율에 대한 처벌 제도의 영향에 대한 정보가 포함되어 있습니다. 관심 결과 변수는 Prob(수감 가능성), U1(14~24세 도시 남성의 실업률) 및 U2( 35-39세 도시 남성의 실업률). 범주형 변수 So(남부 주에 대한 지표 변수)는 그룹화 변수로 사용됩니다.

library(MASS)
head(UScrime, 2)
    M So  Ed Po1 Po2  LF  M.F Pop  NW  U1 U2 GDP Ineq     Prob    Time    y
1 151  1  91  58  56 510  950  33 301 108 41 394  261 0.084602 26.2011  791
2 143  0 113 103  95 583 1012  13 102  96 36 557  194 0.029599 25.2999 1635
aggregate(Prob~So, data=UScrime, length)
  So Prob
1  0   31
2  1   16

Independence t-test

남부에서 범죄를 저지르면 투옥될 가능성이 더 높습니까? 관심 대상의 비교는 변수 So와 Prob입니다. 독립 t-검정은 두 모집단 평균이 같다는 가설을 검정하는 데 사용할 수 있습니다. 여기에서는 두 그룹이 독립적이고 데이터가 정규 모집단에서 추출되었다고 가정합니다.

t 검정은 다음의 함수를 적용합니다.

t.test(y~x, data)
y는 숫자이고 x는 이분형 변수입니다.
t.test(y1, y2)
y1, y2 모두 숫자형 벡터로서 각 그룹의 결과변수
data는 변수들을 포함하는 matrix 또는 dataframe
R의 t.test()의 기본은 unequal variance과 welsh 자유도를 적용
등분산 가정을 위해서는 var.equal=TRUE의 인수를 지정해야 함
기본으로 양쪽 검정(two-tail)이고 검정의 방향을 지정하기 위해 alternative='less" 또는 'greater'를 지정

다음 검정에서 변수 so는 southern, nonsourthern로 두 그룹으로 구분됩니다. 각 그룹에 대한 Prob에 대한 양쪽검정을 실시하며 이분산을 가정합니다.

t.test(Prob~So, data=UScrime)
        Welch Two Sample t-test

data:  Prob by So
t = -3.8954, df = 24.925, p-value = 0.0006506
alternative hypothesis: true difference in means between group 0 and group 1 is not equal to 0
95 percent confidence interval:
 -0.03852569 -0.01187439
sample estimates:
mean in group 0 mean in group 1 
     0.03851265      0.06371269 

위 결과는 "그룹1과 그룹2의 확률이 같다"라는 귀무가설을 기각할 수 있습니다.

Dependent r-test(짝비교)

비교 대상의 두 그룹이 서로 관련이 있을 경우 짝비교를 적용합니다. 즉, UScrime의 변수 U1, U2는 각각 젊은 남성(14~24세)의 실업률이 나이든 남성(35~39세)의 실업에 관한 것으로 젊은 사람의 실업은 나이든 사람의 실업과 완전히 독립적이지 않습니다. 이와같이 관련이 있는 두 집단의 비교 검정은 종속적 t-test (paired test)를 적용합니다. t.test(y1, y2, paired=TRUE) 함수를 사용합니다.

MuSd<-sapply(UScrime[c('U1','U2')], function(x){c(mean=mean(x), sd=sd(x))})
round(MuSd, 3)
         U1     U2
mean 95.468 33.979
sd   18.029  8.445
with(data=UScrime,t.test(U1, U2, paired=TRUE))
        Paired t-test

data:  U1 and U2
t = 32.407, df = 46, p-value < 2.2e-16
alternative hypothesis: true mean difference is not equal to 0
95 percent confidence interval:
 57.67003 65.30870
sample estimates:
mean difference 
       61.48936 

위 결과는 두 그룹의 평균이 같다는 귀무가설을 기각할 수 있습니다. 실제로 젊은 사람들의 평균이 훨씬 높습니다. 실제 모집단 평균이 같을 경우 위 표본과 같은 두 그룹의 평균 차이를 보일 확률은 2.2·10-16보다도 작습니다.

댓글

이 블로그의 인기 게시물

[Linear Algebra] 유사변환(Similarity transformation)

유사변환(Similarity transformation) n×n 차원의 정방 행렬 A, B 그리고 가역 행렬 P 사이에 식 1의 관계가 성립하면 행렬 A와 B는 유사행렬(similarity matrix)이 되며 행렬 A를 가역행렬 P와 B로 분해하는 것을 유사 변환(similarity transformation) 이라고 합니다. $$\tag{1} A = PBP^{-1} \Leftrightarrow P^{-1}AP = B $$ 식 2는 식 1의 양변에 B의 고유값을 고려한 것입니다. \begin{align}\tag{식 2} B - \lambda I &= P^{-1}AP – \lambda P^{-1}P\\ &= P^{-1}(AP – \lambda P)\\ &= P^{-1}(A - \lambda I)P \end{align} 식 2의 행렬식은 식 3과 같이 정리됩니다. \begin{align} &\begin{aligned}\textsf{det}(B - \lambda I ) & = \textsf{det}(P^{-1}(AP – \lambda P))\\ &= \textsf{det}(P^{-1}) \textsf{det}((A – \lambda I)) \textsf{det}(P)\\ &= \textsf{det}(P^{-1}) \textsf{det}(P) \textsf{det}((A – \lambda I))\\ &= \textsf{det}(A – \lambda I)\end{aligned}\\ &\begin{aligned}\because \; \textsf{det}(P^{-1}) \textsf{det}(P) &= \textsf{det}(P^{-1}P)\\ &= \textsf{det}(I)\end{aligned}\end{align} 유사행렬의 특성 유사행렬인 두 정방행렬 A와 B는 'A ~ B' 와 같

[matplotlib] 히스토그램(Histogram)

히스토그램(Histogram) 히스토그램은 확률분포의 그래픽적인 표현이며 막대그래프의 종류입니다. 이 그래프가 확률분포와 관계가 있으므로 통계적 요소를 나타내기 위해 많이 사용됩니다. plt.hist(X, bins=10)함수를 사용합니다. x=np.random.randn(1000) plt.hist(x, 10) plt.show() 위 그래프의 y축은 각 구간에 해당하는 갯수이다. 빈도수 대신 확률밀도를 나타내기 위해서는 위 함수의 매개변수 normed=True로 조정하여 나타낼 수 있다. 또한 매개변수 bins의 인수를 숫자로 전달할 수 있지만 리스트 객체로 지정할 수 있다. 막대그래프의 경우와 마찬가지로 각 막대의 폭은 매개변수 width에 의해 조정된다. y=np.linspace(min(x)-1, max(x)+1, 10) y array([-4.48810153, -3.54351935, -2.59893717, -1.65435499, -0.70977282, 0.23480936, 1.17939154, 2.12397372, 3.0685559 , 4.01313807]) plt.hist(x, y, normed=True) plt.show()

R 미분과 적분

내용 expression 미분 2차 미분 mosaic를 사용한 미분 적분 미분과 적분 R에서의 미분과 적분 함수는 expression()함수에 의해 생성된 표현식을 대상으로 합니다. expression expression(문자, 또는 식) 이 표현식의 평가는 eval() 함수에 의해 실행됩니다. > ex1<-expression(1+0:9) > ex1 expression(1 + 0:9) > eval(ex1) [1] 1 2 3 4 5 6 7 8 9 10 > ex2<-expression(u, 2, u+0:9) > ex2 expression(u, 2, u + 0:9) > ex2[1] expression(u) > ex2[2] expression(2) > ex2[3] expression(u + 0:9) > u<-0.9 > eval(ex2[3]) [1] 0.9 1.9 2.9 3.9 4.9 5.9 6.9 7.9 8.9 9.9 미분 D(표현식, 미분 변수) 함수로 미분을 실행합니다. 이 함수의 표현식은 expression() 함수로 생성된 객체이며 미분 변수는 다음 식의 분모의 변수를 의미합니다. $$\frac{d}{d \text{변수}}\text{표현식}$$ 이 함수는 어떤 함수의 미분의 결과를 표현식으로 반환합니다. > D(expression(2*x^3), "x") 2 * (3 * x^2) > eq<-expression(log(x)) > eq expression(log(x)) > D(eq, "x") 1/x > eq2<-expression(a/(1+b*exp(-d*x))); eq2 expression(a/(1 + b * exp(-d * x))) > D(eq2, "x") a * (b * (exp(-d * x) * d))/(1 + b