sons dataStory

오차의 분산 관련된 내용 회귀모델의 오차에 대해 자기상관분석(Autocorrelation Analysis) 오차의 분산 각 샘플의 추정치 또는 오차의 분포는 회귀계수에만 의존하므로 모든 샘플들에서 발생하는 분포의 분산은 동일하다고 가정합니다( 표 1 참조 ). 그러나 다중회귀모델의 경우 여러 설명변수들 사이에 상관성(공분산의 존재)등으로 인해 이 가정을 만족시키지 못하는 경우가 대부분입니다. 공분산의 존재는 등분산 가정을 충족시키지 못하는 것으로 OLS에서 일반적으로 사용되는 통계적 추론 절차에 문제를 일으킵니다. 즉, 샘플링 분산을 추정하고 가설을 테스트하는 표준 방법이 편향된다는 것입니다. 그 결과 OLS에 의해 추정되는 회귀계수의 편향으로 예측의 신뢰가 감소될 수 있습니다. 등분산 가정이 충족되지 않는 경우 다음과 같이 방법으로 이 문제를 감소시킬 수 있습니다. 데이터 변환(예: 반응 변수 및/또는 설명 변수의 로그 취함)으로 일정한 분산을 달성 다중 설명변수들 중에 주요한 변수만을 선택 설명변수들 간에 정규화 회귀분석의 등분산성 가정을 수식으로 표현하면 식 1과 같습니다. \begin{align}\text{Var}(e|X)& = E(ee^T)\\& = \sigma_e^2 \cdot I \end{align} (식 1) 식 1에서 I는 항등행렬을 나타내는 것으로 σ e 2 I는 각 샘플에서 발생하는 오차의 분산이 같다는 것을 의미합니다(식 2). $$\sigma_e^2 \cdot I = \sigma_e^2\begin{bmatrix}1&0&\cdots&0\\0&1&\cdots&0\\ \vdots& \vdots& \ddots& \vdots\\ 0&0&\cdots&1\end{bmatrix}$$ (식 2) 회귀모형을 행렬시스템으로 나타내면 식 3와 같습니다. \begin{align}y&=X\b...

추정(Estimation) 추정에서는 모수의 특정값을 추정하는 점추정(point estimation) 과 모수가 포함될 일정한 구간을 추정하는 구간추정(interval estimation) 으로 구분됩니다. 표본으로부터 모집단의 모수들을 추정하기 위해 사용하는 통계량을 추정량(estimator) 라고하며 가정에 부합하며 어떠한 편의(bias)를 가지지 않는 추정치를 불편추정치(unbiased estimator) 로 사용합니다. 예를 들어 모평균을 추정하기 위해 표본평균을 불편추정치로 사용합니다. 각 표본의 평균들로부터 산출된 평균(표본평균)은 식 1과 같이 계산되며 모평균의 추정량이됩니다. \begin{align}\tag{1} \hat{\mu}&=\bar{x}\\ &=\frac{1}{n}(\bar{x_1}+\bar{x_2}+\cdots+\bar{x_n})\\ &=\frac{1}{n}\sum^n_{i=1}\bar{x_i } \end{align} (식 1) 또한 일반적으로 모표준편차 σ는 미지의 값이므로 표본분포의 표준편차 s를 불편추정량으로 사용하여 식 2와 같이 계산됩니다. \begin{align}\tag{2}&\begin{aligned}\hat{\sigma}&=s\\ &=\sqrt{\frac{1}{n-1}\sum^n_{i=1}(\bar{x_i}-\bar{x})} \end{aligned}\\ & n :\text{샘플 수} \end{align} (식 2) 표본의 통계량에 의해 추정된 모수는 모집단으로부터 표집되는 표본에 의존합니다. 기본적으로 모집단과 표본에는 차이가 존재하므로 추정된 모수는 불확실성을 내재합니다. 그러므로 점 추정치와 같이 하나의 값으로 모수를 나타내는 것보다 확률적으로 신뢰할 수 있는 수준에서 모수가 포함되는 구간을 설정하여 나타내는 것이 보다 합리적일 것입니다. 이러한 구간을 신뢰구간(confidence Interval) 이라 하며 그 구간에 대한 추정을...

표본과 모집단(smaple & population) 통계적 추론(statistical inference) 은 부분(표본, sample)으로 전체(모집단, population)의 모수를 추정하는 통계 분석 방법입니다. 일반적으로 여러 조건의 제약에 의해 모집단의 조사는 어렵거나 불가능한 경우가 대부분입니다. 이러한 경우 모수(population parameter) 를 알 수 없기 때문에 이들을 추정해야 됩니다. 예를 들어 거래되는 모든 주가 데이터를 획득하는 것은 어렵습니다. 그러므로 그 모집단에서 생성될 수 있는 또는 그 모집단과 유사한 특성을 가진 표본의 평균, 분산과 같은 통계량이 모수와 비슷할 것이라는 가정 하에 다양한 분석을 진행할 수 있습니다. 이 경우 표본의 통계량이 모수와 유사하다고 하는 가설의 합리성에 대한 판단이 필요하며 이러한 판단의 근거는 통계적 추론에 의해 결정할 수 있습니다. 예를 들어 초등학교 6학년의 평균신장을 측정하는 연구에서 대상은 국가 내의 모든 6학년 학생이 될 것입니다. 그러나 제한된 연구 시간과 비용은 모든 대상에 대한 조사를 어렵게 만들 수 있습니다. 이런 경우 모집단의 통계량을 계산할 수 없기 때문에 각 지역별로 임의적으로 작은 그룹을 선택하여 측정한 결과들의 평균으로 모평균을 대신할 수 있을 것입니다. 표 1에서 나타낸 것과 같이 이 연구의 경우 모든 대상이 모집단(population) 이 되고 선택한 부분들이 표본(sample) 이 됩니다. 표 1 모집단과 표본 모집단(population) 연구의 모든 대상 표본(sample) 연구를 위해 실제 측정 또는 관찰되는 부분 다음 자료의 예(표 2)와 같이 행은 모든 열에 대한 값들을 포함하는 것으로 전체 자료에 대한 샘플이 됩니다. 표 2 데이터 셋의 일반적인 형태 이름 나이 성별 키 철수 10 남 153 영희 15 여 161 길동 21 남 181 그림 1은 통계적 추론 과정에서 모...