기본 콘텐츠로 건너뛰기

[ML] 결정트리(Decision Tree) 모델

R 기술통계

내용

기본통계

기술통계(descriptive statistics)

mtcars
vars<-c('mpg', 'hp', 'wt')
mt1<-mtcars[vars]
head(mt1) #1~6행을 반환 
                  mpg  hp    wt
Mazda RX4         21.0 110 2.620
Mazda RX4 Wag     21.0 110 2.875
Datsun 710        22.8  93 2.320
Hornet 4 Drive    21.4 110 3.215
Hornet Sportabout 18.7 175 3.440
Valiant           18.1 105 3.460
summary(mt1)#요약통계량을 반환 
     mpg              hp              wt       
 Min.   :10.40   Min.   : 52.0   Min.   :1.513
 1st Qu.:15.43   1st Qu.: 96.5   1st Qu.:2.581  
 Median :19.20   Median :123.0   Median :3.325
 Mean   :20.09   Mean   :146.7   Mean   :3.217
 3rd Qu.:22.80   3rd Qu.:180.0   3rd Qu.:3.610
 Max.   :33.90   Max.   :335.0   Max.   :5.424
apply(객체, 1 or 2, FUN)는 객체의 행 또는 열에 함수를 적용합니다. 1: row, 2:column
sapply(객체, FUN)는 객체의 각 열에 함수를 적용합니다.
위 함수에서 객체의 결측치를 제외하기 위해 함수에 인자 na.omit=True를 첨가합니다.
위 함수들의 인수중 FUN에 사용되는 전형적인 함수들은 다음과 같습니다.
mean, sd, var, min,max, median, length, range, quantile
fivenum()은 Turkey의 5가지 요약(min, lower-hinge, median, upper-hinge, maximum)을 반환합니다.
apply(mt1, 2, mean)
      mpg        hp        wt
 20.09062 146.68750   3.21725 
sapply(mt1, mean)
      mpg        hp        wt
 20.09062 146.68750   3.21725 
fivenum(mt1$mpg)
[1] 10.40 15.35 19.20 22.80 33.90
sapply(mt1, fivenum)
       mpg  hp     wt
[1,] 10.40  52 1.5130
[2,] 15.35  96 2.5425
[3,] 19.20 123 3.3250
[4,] 22.80 180 3.6500
[5,] 33.90 335 5.4240
그러나 R 자체에서는 중요한 기술 통계량인 skew(왜도)와 kurtosis(첨도)를 위한 함수들을 제공하지 않습니다. $$\begin{aligned}&\text{skew}=\frac{\sum^n_{i=0}\left(\frac{x_i-m}{sd}\right)^3}{n}\\&\text{kurtosis}=\frac{\sum^n_{i=0}\left(\frac{x_i-m}{sd}\right)^4}{n}-3\end{aligned}$$ 위 식의 m, sd, n은 각각 평균, 표준편차, 그리고 객체의 크기 입니다. 그러므로 다음과 같이 직접계산하는 함수를 작성할 수 있습니다.
descriptStats<-function(x, na.omit=FALSE){
    if(na.omit) x<-x[!is.na(x)]
    m<-mean(x)
    n<-length(x)
    s<-sd(x)
    skew<-sum((x-m)^3/s^3)/n
    kurt<-sum((x-m)^4/x^4)/n-3
    return(c(n=n, mean=m, std=s, skew=skew, kurtosis=kurt))
}
round(sapply(mt1, descriptStats), 3)
            mpg      hp     wt
n        32.000  32.000 32.000
mean     20.091 146.688  3.217
std       6.027  68.563  0.978
skew      0.611   0.726  0.423
kurtosis  -2.945  -2.307 -2.896
위 결과에서 변수 mpg에 대한 왜도와 첨도는 그 분포가 오른쪽으로 치우쳐 있고 정규분포보다 flat하다는 것을 나타냅니다. R의 패키지 중에서 좀더 자세한 기술통계 정보를 제공하고 있습니다. Hmic 패키지describe(): 변수와 관찰치의 수, 결측치 수, 고유값(unique value)의 수, mean, quantiles, 최고값과 최저값을 각각 5개씩 반환
library(Hmisc)
describe(mt1)
mt1 

 3  Variables      32  Observations
--------------------------------------------------------------------------------
mpg
       n  missing distinct     Info     Mean      Gmd      .05      .10 
      32        0       25    0.999    20.09    6.796    12.00    14.34
     .25      .50      .75      .90      .95 
   15.43    19.20    22.80    30.09    31.30

lowest : 10.4 13.3 14.3 14.7 15.0, highest: 26.0 27.3 30.4 32.4 33.9
--------------------------------------------------------------------------------
hp
       n  missing distinct     Info     Mean      Gmd      .05      .10
      32        0       22    0.997    146.7    77.04    63.65    66.00
     .25      .50      .75      .90      .95
   96.50   123.00   180.00   243.50   253.55 

lowest :  52  62  65  66  91, highest: 215 230 245 264 335
--------------------------------------------------------------------------------
wt
       n  missing distinct     Info     Mean      Gmd      .05      .10
      32        0       29    0.999    3.217    1.089    1.736    1.956 
     .25      .50      .75      .90      .95
   2.581    3.325    3.610    4.048    5.293

lowest : 1.513 1.615 1.835 1.935 2.140, highest: 3.845 4.070 5.250 5.345 5.424
--------------------------------------------------------------------------------
pastec 패키지의 stat.desc()함수와 psych 패키지의 decribe() 함수 역시 기술 통계량을 나타내며 통계량의 종류에는 차이가 있습니다.

그룹화에 의한 기술통계

데이터 전체에서 특정 관찰점을 기준으로 그룹화할 수 있습니다. 이 경우 전체 샘플보다 각 그룹에 대한 기술 통계가 중심이 됩니다. R에서는 aggregate() 또는 reshape 패키지의 melt()cast()함수를 사용하여 그룹화를 진행할 수 있습니다. mtcars 데이터에서 변수 mpg, hp, wt를 변수 am에 의해 그룹화하고 각 그룹의 평균(mean)과 표준편차를 계산합니다. 그러나 그룹화에 사용할 aggragate()에 전달하는 함수는 하나이어야 합니다. 그러므로 사용자 함수를 작성하여 사용합니다.
muSd<-function(x){c(mean=mean(x), std=sd(x))} 
vars<-c('mpg', 'hp', 'wt')
mt1<-mtcars[vars] 
groupStat<-aggregate(mtcars[vars], by=list(am=mtcars$am), muSd)
round(groupStat)<-function 
  am mpg.mean mpg.std hp.mean hp.std wt.mean wt.std
1  0       17       4     160     54       4      1
2  1       24       6     127     84       2      1
그룹화를 위해 다음 함수를 사용할 수 있습니다.
by(x, indices, fun)
x: data frame 또는 matrix
indice: 그룹화의 인자 또는 인자들(factor 또는 list of factors)
fun: 적용할 함수
by(mtcars$mpg, mtcars$am, muSd)
mtcars$am: 0
     mean       std
17.147368  3.833966
------------------------------------------------------------
mtcars$am: 1
     mean       std
24.392308  6.166504

패키지 함수 적용

자료의 그룹화는 doBy 패키지의 summaryBy() 함수에 의해 실행됩니다.
summaryBy(formular, data=ddata.frame, FUN=function)
formular: 그룹화를 위한 변수(들)~그룹화의 기준이 되는 변수(들)
인수 formular의 형태는 다음과 같습니다.
var1~groupvar1
var1+var2+...~groupvar1+groupvar2+...
다음은 객체 mt1을 변수 am에 의해 그룹화하여 descriptStats 함수를 적용한 것입니다.
library(doBy)
round(summaryBy(mpg+hp+wt~am, data=mtcars, FUN=descriptStats), 2)
am mpg.n mpg.mean mpg.std mpg.skew mpg.kurtosis hp.n hp.mean hp.std hp.skew
   1  0    19    17.15    3.83     0.01        -2.98   19  160.26  53.91   -0.01
   2  1    13    24.39    6.17     0.05        -2.98   13  126.85  84.06    1.36
  hp.kurtosis wt.n wt.mean wt.std wt.skew wt.kurtosis
1       -2.64   19    3.77   0.78    0.98       -2.99
2       -2.47   13    2.41   0.62    0.21       -2.98
psych 패키지describeBy()함수 역시 데이터의 그룹화를 위해 사용할 수 있으며 이 함수에는 같은 패키지의 desscribe() 함수가 적용됩니다. 데이터셋을 재구성하는데 많이 사용되는 reshape 패키지melt()cast() 함수들을 사용하여 그룹화를 실행할 수 있습니다.
re<-melt(dataframe, measure.vars=y, id.vars=g)
cast(re, groupvar1+groupvar2+...+variable~., FUN)
dataframe을 g에 의해 y를 그룹화합니다.
groupvar: 그룹화 기준이 되는 요인변수, 여러개 일 경우는 '+'로 연결합니다.
variable~. : 그대로 작성합니다.
FUN: 적용할 함수입니다.
library(reshape)
muSd<-function(x){c(mean=round(mean(x),2), std=round(sd(x),2))}
df<-melt(mtcars, measure.vars=c('mpg','hp','wt'), id.vars=c('am', 'cyl'))
head(df, 3)
  am cyl variable value
1  1   6      mpg  21.0
2  1   6      mpg  21.0
3  1   4      mpg  22.8
grRe<-cast(df, am+cyl+variable~., muSd); grRe
am cyl variable   mean   std
1   0   4      mpg  22.90  1.45
2   0   4       hp  84.67 19.66
⋮

댓글

이 블로그의 인기 게시물

[Linear Algebra] 유사변환(Similarity transformation)

유사변환(Similarity transformation) n×n 차원의 정방 행렬 A, B 그리고 가역 행렬 P 사이에 식 1의 관계가 성립하면 행렬 A와 B는 유사행렬(similarity matrix)이 되며 행렬 A를 가역행렬 P와 B로 분해하는 것을 유사 변환(similarity transformation) 이라고 합니다. $$\tag{1} A = PBP^{-1} \Leftrightarrow P^{-1}AP = B $$ 식 2는 식 1의 양변에 B의 고유값을 고려한 것입니다. \begin{align}\tag{식 2} B - \lambda I &= P^{-1}AP – \lambda P^{-1}P\\ &= P^{-1}(AP – \lambda P)\\ &= P^{-1}(A - \lambda I)P \end{align} 식 2의 행렬식은 식 3과 같이 정리됩니다. \begin{align} &\begin{aligned}\textsf{det}(B - \lambda I ) & = \textsf{det}(P^{-1}(AP – \lambda P))\\ &= \textsf{det}(P^{-1}) \textsf{det}((A – \lambda I)) \textsf{det}(P)\\ &= \textsf{det}(P^{-1}) \textsf{det}(P) \textsf{det}((A – \lambda I))\\ &= \textsf{det}(A – \lambda I)\end{aligned}\\ &\begin{aligned}\because \; \textsf{det}(P^{-1}) \textsf{det}(P) &= \textsf{det}(P^{-1}P)\\ &= \textsf{det}(I)\end{aligned}\end{align} 유사행렬의 특성 유사행렬인 두 정방행렬 A와 B는 'A ~ B' 와 같

[matplotlib] 히스토그램(Histogram)

히스토그램(Histogram) 히스토그램은 확률분포의 그래픽적인 표현이며 막대그래프의 종류입니다. 이 그래프가 확률분포와 관계가 있으므로 통계적 요소를 나타내기 위해 많이 사용됩니다. plt.hist(X, bins=10)함수를 사용합니다. x=np.random.randn(1000) plt.hist(x, 10) plt.show() 위 그래프의 y축은 각 구간에 해당하는 갯수이다. 빈도수 대신 확률밀도를 나타내기 위해서는 위 함수의 매개변수 normed=True로 조정하여 나타낼 수 있다. 또한 매개변수 bins의 인수를 숫자로 전달할 수 있지만 리스트 객체로 지정할 수 있다. 막대그래프의 경우와 마찬가지로 각 막대의 폭은 매개변수 width에 의해 조정된다. y=np.linspace(min(x)-1, max(x)+1, 10) y array([-4.48810153, -3.54351935, -2.59893717, -1.65435499, -0.70977282, 0.23480936, 1.17939154, 2.12397372, 3.0685559 , 4.01313807]) plt.hist(x, y, normed=True) plt.show()

R 미분과 적분

내용 expression 미분 2차 미분 mosaic를 사용한 미분 적분 미분과 적분 R에서의 미분과 적분 함수는 expression()함수에 의해 생성된 표현식을 대상으로 합니다. expression expression(문자, 또는 식) 이 표현식의 평가는 eval() 함수에 의해 실행됩니다. > ex1<-expression(1+0:9) > ex1 expression(1 + 0:9) > eval(ex1) [1] 1 2 3 4 5 6 7 8 9 10 > ex2<-expression(u, 2, u+0:9) > ex2 expression(u, 2, u + 0:9) > ex2[1] expression(u) > ex2[2] expression(2) > ex2[3] expression(u + 0:9) > u<-0.9 > eval(ex2[3]) [1] 0.9 1.9 2.9 3.9 4.9 5.9 6.9 7.9 8.9 9.9 미분 D(표현식, 미분 변수) 함수로 미분을 실행합니다. 이 함수의 표현식은 expression() 함수로 생성된 객체이며 미분 변수는 다음 식의 분모의 변수를 의미합니다. $$\frac{d}{d \text{변수}}\text{표현식}$$ 이 함수는 어떤 함수의 미분의 결과를 표현식으로 반환합니다. > D(expression(2*x^3), "x") 2 * (3 * x^2) > eq<-expression(log(x)) > eq expression(log(x)) > D(eq, "x") 1/x > eq2<-expression(a/(1+b*exp(-d*x))); eq2 expression(a/(1 + b * exp(-d * x))) > D(eq2, "x") a * (b * (exp(-d * x) * d))/(1 + b