기본 콘텐츠로 건너뛰기

벡터와 행렬에 관련된 그림들

R 기술통계

내용

기본통계

기술통계(descriptive statistics)

mtcars
vars<-c('mpg', 'hp', 'wt')
mt1<-mtcars[vars]
head(mt1) #1~6행을 반환 
                  mpg  hp    wt
Mazda RX4         21.0 110 2.620
Mazda RX4 Wag     21.0 110 2.875
Datsun 710        22.8  93 2.320
Hornet 4 Drive    21.4 110 3.215
Hornet Sportabout 18.7 175 3.440
Valiant           18.1 105 3.460
summary(mt1)#요약통계량을 반환 
     mpg              hp              wt       
 Min.   :10.40   Min.   : 52.0   Min.   :1.513
 1st Qu.:15.43   1st Qu.: 96.5   1st Qu.:2.581  
 Median :19.20   Median :123.0   Median :3.325
 Mean   :20.09   Mean   :146.7   Mean   :3.217
 3rd Qu.:22.80   3rd Qu.:180.0   3rd Qu.:3.610
 Max.   :33.90   Max.   :335.0   Max.   :5.424
apply(객체, 1 or 2, FUN)는 객체의 행 또는 열에 함수를 적용합니다. 1: row, 2:column
sapply(객체, FUN)는 객체의 각 열에 함수를 적용합니다.
위 함수에서 객체의 결측치를 제외하기 위해 함수에 인자 na.omit=True를 첨가합니다.
위 함수들의 인수중 FUN에 사용되는 전형적인 함수들은 다음과 같습니다.
mean, sd, var, min,max, median, length, range, quantile
fivenum()은 Turkey의 5가지 요약(min, lower-hinge, median, upper-hinge, maximum)을 반환합니다.
apply(mt1, 2, mean)
      mpg        hp        wt
 20.09062 146.68750   3.21725 
sapply(mt1, mean)
      mpg        hp        wt
 20.09062 146.68750   3.21725 
fivenum(mt1$mpg)
[1] 10.40 15.35 19.20 22.80 33.90
sapply(mt1, fivenum)
       mpg  hp     wt
[1,] 10.40  52 1.5130
[2,] 15.35  96 2.5425
[3,] 19.20 123 3.3250
[4,] 22.80 180 3.6500
[5,] 33.90 335 5.4240
그러나 R 자체에서는 중요한 기술 통계량인 skew(왜도)와 kurtosis(첨도)를 위한 함수들을 제공하지 않습니다. $$\begin{aligned}&\text{skew}=\frac{\sum^n_{i=0}\left(\frac{x_i-m}{sd}\right)^3}{n}\\&\text{kurtosis}=\frac{\sum^n_{i=0}\left(\frac{x_i-m}{sd}\right)^4}{n}-3\end{aligned}$$ 위 식의 m, sd, n은 각각 평균, 표준편차, 그리고 객체의 크기 입니다. 그러므로 다음과 같이 직접계산하는 함수를 작성할 수 있습니다.
descriptStats<-function(x, na.omit=FALSE){
    if(na.omit) x<-x[!is.na(x)]
    m<-mean(x)
    n<-length(x)
    s<-sd(x)
    skew<-sum((x-m)^3/s^3)/n
    kurt<-sum((x-m)^4/x^4)/n-3
    return(c(n=n, mean=m, std=s, skew=skew, kurtosis=kurt))
}
round(sapply(mt1, descriptStats), 3)
            mpg      hp     wt
n        32.000  32.000 32.000
mean     20.091 146.688  3.217
std       6.027  68.563  0.978
skew      0.611   0.726  0.423
kurtosis  -2.945  -2.307 -2.896
위 결과에서 변수 mpg에 대한 왜도와 첨도는 그 분포가 오른쪽으로 치우쳐 있고 정규분포보다 flat하다는 것을 나타냅니다. R의 패키지 중에서 좀더 자세한 기술통계 정보를 제공하고 있습니다. Hmic 패키지describe(): 변수와 관찰치의 수, 결측치 수, 고유값(unique value)의 수, mean, quantiles, 최고값과 최저값을 각각 5개씩 반환
library(Hmisc)
describe(mt1)
mt1 

 3  Variables      32  Observations
--------------------------------------------------------------------------------
mpg
       n  missing distinct     Info     Mean      Gmd      .05      .10 
      32        0       25    0.999    20.09    6.796    12.00    14.34
     .25      .50      .75      .90      .95 
   15.43    19.20    22.80    30.09    31.30

lowest : 10.4 13.3 14.3 14.7 15.0, highest: 26.0 27.3 30.4 32.4 33.9
--------------------------------------------------------------------------------
hp
       n  missing distinct     Info     Mean      Gmd      .05      .10
      32        0       22    0.997    146.7    77.04    63.65    66.00
     .25      .50      .75      .90      .95
   96.50   123.00   180.00   243.50   253.55 

lowest :  52  62  65  66  91, highest: 215 230 245 264 335
--------------------------------------------------------------------------------
wt
       n  missing distinct     Info     Mean      Gmd      .05      .10
      32        0       29    0.999    3.217    1.089    1.736    1.956 
     .25      .50      .75      .90      .95
   2.581    3.325    3.610    4.048    5.293

lowest : 1.513 1.615 1.835 1.935 2.140, highest: 3.845 4.070 5.250 5.345 5.424
--------------------------------------------------------------------------------
pastec 패키지의 stat.desc()함수와 psych 패키지의 decribe() 함수 역시 기술 통계량을 나타내며 통계량의 종류에는 차이가 있습니다.

그룹화에 의한 기술통계

데이터 전체에서 특정 관찰점을 기준으로 그룹화할 수 있습니다. 이 경우 전체 샘플보다 각 그룹에 대한 기술 통계가 중심이 됩니다. R에서는 aggregate() 또는 reshape 패키지의 melt()cast()함수를 사용하여 그룹화를 진행할 수 있습니다. mtcars 데이터에서 변수 mpg, hp, wt를 변수 am에 의해 그룹화하고 각 그룹의 평균(mean)과 표준편차를 계산합니다. 그러나 그룹화에 사용할 aggragate()에 전달하는 함수는 하나이어야 합니다. 그러므로 사용자 함수를 작성하여 사용합니다.
muSd<-function(x){c(mean=mean(x), std=sd(x))} 
vars<-c('mpg', 'hp', 'wt')
mt1<-mtcars[vars] 
groupStat<-aggregate(mtcars[vars], by=list(am=mtcars$am), muSd)
round(groupStat)<-function 
  am mpg.mean mpg.std hp.mean hp.std wt.mean wt.std
1  0       17       4     160     54       4      1
2  1       24       6     127     84       2      1
그룹화를 위해 다음 함수를 사용할 수 있습니다.
by(x, indices, fun)
x: data frame 또는 matrix
indice: 그룹화의 인자 또는 인자들(factor 또는 list of factors)
fun: 적용할 함수
by(mtcars$mpg, mtcars$am, muSd)
mtcars$am: 0
     mean       std
17.147368  3.833966
------------------------------------------------------------
mtcars$am: 1
     mean       std
24.392308  6.166504

패키지 함수 적용

자료의 그룹화는 doBy 패키지의 summaryBy() 함수에 의해 실행됩니다.
summaryBy(formular, data=ddata.frame, FUN=function)
formular: 그룹화를 위한 변수(들)~그룹화의 기준이 되는 변수(들)
인수 formular의 형태는 다음과 같습니다.
var1~groupvar1
var1+var2+...~groupvar1+groupvar2+...
다음은 객체 mt1을 변수 am에 의해 그룹화하여 descriptStats 함수를 적용한 것입니다.
library(doBy)
round(summaryBy(mpg+hp+wt~am, data=mtcars, FUN=descriptStats), 2)
am mpg.n mpg.mean mpg.std mpg.skew mpg.kurtosis hp.n hp.mean hp.std hp.skew
   1  0    19    17.15    3.83     0.01        -2.98   19  160.26  53.91   -0.01
   2  1    13    24.39    6.17     0.05        -2.98   13  126.85  84.06    1.36
  hp.kurtosis wt.n wt.mean wt.std wt.skew wt.kurtosis
1       -2.64   19    3.77   0.78    0.98       -2.99
2       -2.47   13    2.41   0.62    0.21       -2.98
psych 패키지describeBy()함수 역시 데이터의 그룹화를 위해 사용할 수 있으며 이 함수에는 같은 패키지의 desscribe() 함수가 적용됩니다. 데이터셋을 재구성하는데 많이 사용되는 reshape 패키지melt()cast() 함수들을 사용하여 그룹화를 실행할 수 있습니다.
re<-melt(dataframe, measure.vars=y, id.vars=g)
cast(re, groupvar1+groupvar2+...+variable~., FUN)
dataframe을 g에 의해 y를 그룹화합니다.
groupvar: 그룹화 기준이 되는 요인변수, 여러개 일 경우는 '+'로 연결합니다.
variable~. : 그대로 작성합니다.
FUN: 적용할 함수입니다.
library(reshape)
muSd<-function(x){c(mean=round(mean(x),2), std=round(sd(x),2))}
df<-melt(mtcars, measure.vars=c('mpg','hp','wt'), id.vars=c('am', 'cyl'))
head(df, 3)
  am cyl variable value
1  1   6      mpg  21.0
2  1   6      mpg  21.0
3  1   4      mpg  22.8
grRe<-cast(df, am+cyl+variable~., muSd); grRe
am cyl variable   mean   std
1   0   4      mpg  22.90  1.45
2   0   4       hp  84.67 19.66
⋮

댓글

이 블로그의 인기 게시물

[Linear Algebra] 유사변환(Similarity transformation)

유사변환(Similarity transformation) n×n 차원의 정방 행렬 A, B 그리고 가역 행렬 P 사이에 식 1의 관계가 성립하면 행렬 A와 B는 유사행렬(similarity matrix)이 되며 행렬 A를 가역행렬 P와 B로 분해하는 것을 유사 변환(similarity transformation) 이라고 합니다. $$\tag{1} A = PBP^{-1} \Leftrightarrow P^{-1}AP = B $$ 식 2는 식 1의 양변에 B의 고유값을 고려한 것입니다. \begin{align}\tag{식 2} B - \lambda I &= P^{-1}AP – \lambda P^{-1}P\\ &= P^{-1}(AP – \lambda P)\\ &= P^{-1}(A - \lambda I)P \end{align} 식 2의 행렬식은 식 3과 같이 정리됩니다. \begin{align} &\begin{aligned}\textsf{det}(B - \lambda I ) & = \textsf{det}(P^{-1}(AP – \lambda P))\\ &= \textsf{det}(P^{-1}) \textsf{det}((A – \lambda I)) \textsf{det}(P)\\ &= \textsf{det}(P^{-1}) \textsf{det}(P) \textsf{det}((A – \lambda I))\\ &= \textsf{det}(A – \lambda I)\end{aligned}\\ &\begin{aligned}\because \; \textsf{det}(P^{-1}) \textsf{det}(P) &= \textsf{det}(P^{-1}P)\\ &= \textsf{det}(I)\end{aligned}\end{align} 유사행렬의 특성 유사행렬인 두 정방행렬 A와 B는 'A ~ B' 와 같...

[sympy] Sympy객체의 표현을 위한 함수들

Sympy객체의 표현을 위한 함수들 General simplify(x): 식 x(sympy 객체)를 간단히 정리 합니다. import numpy as np from sympy import * x=symbols("x") a=sin(x)**2+cos(x)**2 a $\sin^{2}{\left(x \right)} + \cos^{2}{\left(x \right)}$ simplify(a) 1 simplify(b) $\frac{x^{3} + x^{2} - x - 1}{x^{2} + 2 x + 1}$ simplify(b) x - 1 c=gamma(x)/gamma(x-2) c $\frac{\Gamma\left(x\right)}{\Gamma\left(x - 2\right)}$ simplify(c) $\displaystyle \left(x - 2\right) \left(x - 1\right)$ 위의 예들 중 객체 c의 감마함수(gamma(x))는 확률분포 등 여러 부분에서 사용되는 표현식으로 다음과 같이 정의 됩니다. 감마함수는 음이 아닌 정수를 제외한 모든 수에서 정의됩니다. 식 1과 같이 자연수에서 감마함수는 factorial(!), 부동소수(양의 실수)인 경우 적분을 적용하여 계산합니다. $$\tag{식 1}\Gamma(n) =\begin{cases}(n-1)!& n:\text{자연수}\\\int^\infty_0x^{n-1}e^{-x}\,dx& n:\text{부동소수}\end{cases}$$ x=symbols('x') gamma(x).subs(x,4) $\displaystyle 6$ factorial 계산은 math.factorial() 함수를 사용할 수 있습니다. import math math.factorial(3) 6 a=gamma(x).subs(x,4.5) a.evalf(3) 11.6 simpilfy() 함수의 알고리즘은 식에서 공통사항을 찾아 정리하...

sympy.solvers로 방정식해 구하기

sympy.solvers로 방정식해 구하기 대수 방정식을 해를 계산하기 위해 다음 함수를 사용합니다. sympy.solvers.solve(f, *symbols, **flags) f=0, 즉 동차방정식에 대해 지정한 변수의 해를 계산 f : 식 또는 함수 symbols: 식의 해를 계산하기 위한 변수, 변수가 하나인 경우는 생략가능(자동으로 인식) flags: 계산 또는 결과의 방식을 지정하기 위한 인수들 dict=True: {x:3, y:1}같이 사전형식, 기본값 = False set=True :{(x,3),(y,1)}같이 집합형식, 기본값 = False ratioal=True : 실수를 유리수로 반환, 기본값 = False positive=True: 해들 중에 양수만을 반환, 기본값 = False 예 $x^2=1$의 해를 결정합니다. solve() 함수에 적용하기 위해서는 다음과 같이 식의 한쪽이 0이 되는 형태인 동차식으로 구성되어야 합니다. $$x^2-1=0$$ import numpy as np from sympy import * x = symbols('x') solve(x**2-1, x) [-1, 1] 위 식은 계산 과정은 다음과 같습니다. $$\begin{aligned}x^2-1=0 \rightarrow (x+1)(x-1)=0 \\ x=1 \; \text{or}\; -1\end{aligned}$$ 예 $x^4=1$의 해를 결정합니다. solve() 함수의 인수 set=True를 지정하였으므로 결과는 집합(set)형으로 반환됩니다. eq=x**4-1 solve(eq, set=True) ([x], {(-1,), (-I,), (1,), (I,)}) 위의 경우 I는 복소수입니다.즉 위 결과의 과정은 다음과 같습니다. $$x^4-1=(x^2+1)(x+1)(x-1)=0 \rightarrow x=\pm \sqrt{-1}, \; \pm 1=\pm i,\; \pm1$$ 실수...