기본 콘텐츠로 건너뛰기

[ML] 결정트리(Decision Tree) 모델

[data analysis] 표본과 모집단(smaple and population)

표본과 모집단(smaple & population)

통계적 추론(statistical inference)은 부분(표본, sample)으로 전체(모집단, population)의 모수를 추정하는 통계 분석 방법입니다. 일반적으로 여러 조건의 제약에 의해 모집단의 조사는 어렵거나 불가능한 경우가 대부분입니다. 이러한 경우 모수(population parameter)를 알 수 없기 때문에 이들을 추정해야 됩니다. 예를 들어 거래되는 모든 주가 데이터를 획득하는 것은 어렵습니다. 그러므로 그 모집단에서 생성될 수 있는 또는 그 모집단과 유사한 특성을 가진 표본의 평균, 분산과 같은 통계량이 모수와 비슷할 것이라는 가정 하에 다양한 분석을 진행할 수 있습니다. 이 경우 표본의 통계량이 모수와 유사하다고 하는 가설의 합리성에 대한 판단이 필요하며 이러한 판단의 근거는 통계적 추론에 의해 결정할 수 있습니다.

예를 들어 초등학교 6학년의 평균신장을 측정하는 연구에서 대상은 국가 내의 모든 6학년 학생이 될 것입니다. 그러나 제한된 연구 시간과 비용은 모든 대상에 대한 조사를 어렵게 만들 수 있습니다. 이런 경우 모집단의 통계량을 계산할 수 없기 때문에 각 지역별로 임의적으로 작은 그룹을 선택하여 측정한 결과들의 평균으로 모평균을 대신할 수 있을 것입니다. 표 1에서 나타낸 것과 같이 이 연구의 경우 모든 대상이 모집단(population)이 되고 선택한 부분들이 표본(sample)이 됩니다.

표 1 모집단과 표본
모집단(population) 연구의 모든 대상
표본(sample) 연구를 위해 실제 측정 또는 관찰되는 부분

다음 자료의 예(표 2)와 같이 행은 모든 열에 대한 값들을 포함하는 것으로 전체 자료에 대한 샘플이 됩니다.

표 2 데이터 셋의 일반적인 형태
이름 나이 성별
철수 10 153
영희 15 161
길동 21 181

그림 1은 통계적 추론 과정에서 모집단과 표본의 관계를 나타냅니다.

그림 1. 모집단과 표본의 관계.

그림 1에서 나타낸 것과 같이 표본에서 추론되는 가설에 대한 결론은 다시 모집단에 적용되므로 표본은 모집단에 대해 대표성을 가져야 합니다. 즉, 모집단의 특성이 표본에 반영되어야 합니다. 그러나 표본은 모집단에서 선택하는 것이지만 두 집단의 특성이 완전히 일치할 수는 없습니다. 즉, 내재적인 차이가 존재하며 이 차이를 기본적으로 인식하는 것이 매우 중요합니다. 이러한 차이는 모집단과 표본에서 산출될 수 있는 통계량의 기호로 구별하여 나태냅니다. 예를 들어 모집단의 평균과 표준편차는 μ, σ로 표시하고 표본의 경우는 각각 $\bar{s}$, s로 나타냅니다.

표본으로부터 모수를 추론하고 결정하기 위한 통계적 추론은 추정 단계와 가설검정 단계로 구성됩니다. 추정(estimation)은 신뢰구간과 같이 모수를 추측하는 단계이며 가설검정(hypothesis test)은 추측된 값이 합리적인지에 대해 검정하는 단계입니다.

댓글

이 블로그의 인기 게시물

[Linear Algebra] 유사변환(Similarity transformation)

유사변환(Similarity transformation) n×n 차원의 정방 행렬 A, B 그리고 가역 행렬 P 사이에 식 1의 관계가 성립하면 행렬 A와 B는 유사행렬(similarity matrix)이 되며 행렬 A를 가역행렬 P와 B로 분해하는 것을 유사 변환(similarity transformation) 이라고 합니다. $$\tag{1} A = PBP^{-1} \Leftrightarrow P^{-1}AP = B $$ 식 2는 식 1의 양변에 B의 고유값을 고려한 것입니다. \begin{align}\tag{식 2} B - \lambda I &= P^{-1}AP – \lambda P^{-1}P\\ &= P^{-1}(AP – \lambda P)\\ &= P^{-1}(A - \lambda I)P \end{align} 식 2의 행렬식은 식 3과 같이 정리됩니다. \begin{align} &\begin{aligned}\textsf{det}(B - \lambda I ) & = \textsf{det}(P^{-1}(AP – \lambda P))\\ &= \textsf{det}(P^{-1}) \textsf{det}((A – \lambda I)) \textsf{det}(P)\\ &= \textsf{det}(P^{-1}) \textsf{det}(P) \textsf{det}((A – \lambda I))\\ &= \textsf{det}(A – \lambda I)\end{aligned}\\ &\begin{aligned}\because \; \textsf{det}(P^{-1}) \textsf{det}(P) &= \textsf{det}(P^{-1}P)\\ &= \textsf{det}(I)\end{aligned}\end{align} 유사행렬의 특성 유사행렬인 두 정방행렬 A와 B는 'A ~ B' 와 같

[matplotlib] 히스토그램(Histogram)

히스토그램(Histogram) 히스토그램은 확률분포의 그래픽적인 표현이며 막대그래프의 종류입니다. 이 그래프가 확률분포와 관계가 있으므로 통계적 요소를 나타내기 위해 많이 사용됩니다. plt.hist(X, bins=10)함수를 사용합니다. x=np.random.randn(1000) plt.hist(x, 10) plt.show() 위 그래프의 y축은 각 구간에 해당하는 갯수이다. 빈도수 대신 확률밀도를 나타내기 위해서는 위 함수의 매개변수 normed=True로 조정하여 나타낼 수 있다. 또한 매개변수 bins의 인수를 숫자로 전달할 수 있지만 리스트 객체로 지정할 수 있다. 막대그래프의 경우와 마찬가지로 각 막대의 폭은 매개변수 width에 의해 조정된다. y=np.linspace(min(x)-1, max(x)+1, 10) y array([-4.48810153, -3.54351935, -2.59893717, -1.65435499, -0.70977282, 0.23480936, 1.17939154, 2.12397372, 3.0685559 , 4.01313807]) plt.hist(x, y, normed=True) plt.show()

R 미분과 적분

내용 expression 미분 2차 미분 mosaic를 사용한 미분 적분 미분과 적분 R에서의 미분과 적분 함수는 expression()함수에 의해 생성된 표현식을 대상으로 합니다. expression expression(문자, 또는 식) 이 표현식의 평가는 eval() 함수에 의해 실행됩니다. > ex1<-expression(1+0:9) > ex1 expression(1 + 0:9) > eval(ex1) [1] 1 2 3 4 5 6 7 8 9 10 > ex2<-expression(u, 2, u+0:9) > ex2 expression(u, 2, u + 0:9) > ex2[1] expression(u) > ex2[2] expression(2) > ex2[3] expression(u + 0:9) > u<-0.9 > eval(ex2[3]) [1] 0.9 1.9 2.9 3.9 4.9 5.9 6.9 7.9 8.9 9.9 미분 D(표현식, 미분 변수) 함수로 미분을 실행합니다. 이 함수의 표현식은 expression() 함수로 생성된 객체이며 미분 변수는 다음 식의 분모의 변수를 의미합니다. $$\frac{d}{d \text{변수}}\text{표현식}$$ 이 함수는 어떤 함수의 미분의 결과를 표현식으로 반환합니다. > D(expression(2*x^3), "x") 2 * (3 * x^2) > eq<-expression(log(x)) > eq expression(log(x)) > D(eq, "x") 1/x > eq2<-expression(a/(1+b*exp(-d*x))); eq2 expression(a/(1 + b * exp(-d * x))) > D(eq2, "x") a * (b * (exp(-d * x) * d))/(1 + b