# 오차항

오차항(Error Term)은 통계학과귀 분석에서 매우 중요한 개념, 모델이 설명하지 못하는 데이터의 변동성을 나타냅. 이는 관된 종속 변수의 값과 회귀 모델이 예측한 값 사이의 차이를 의미하며, 모델의 정확도를 평가하고 개선하는 데 핵심적인 역할을 합니다. 오차항은 일반적으로 잔차(Residual)와 혼동되기도 하지만, 통계 이론에서는 모집단 수준의 오차와 표본 수준의 잔차를 구분합니다.

## 개요

회귀 분석은 하나 이상의 독립 변수(설명 변수)를 사용하여 종속 변수(반응 변수)의 값을 예측하는 통계적 기법입니다. 이상적인 경우, 독립 변수와 종속 변수 사이에 완벽한 함수 관계가 존재한다면 모든 데이터 점이 회귀선 위에 놓이겠지만, 현실에서는 다양한 요인으로 인해 관측값이 예측값과 차이를 보입니다. 이 차이를 **오차항**(또는 **잔차**)이라고 부릅니다.

오차항은 모델에 포함되지 않은 변수, 측정 오차, 무작위적 변동성, 혹은 비선형 관계 등 다양한 원인에서 비롯됩니다. 통계 모델링에서는 오차항이 특정한 확률 분포(대개 정규분포)를 따르고, 평균이 0이며 서로 독립적이라는 가정을 두는 경우가 많습니다.

---

## 오차항의 정와 수식 표현

일반적인 선형 회귀 모델은 다음과 같은 형태로 표현됩니다:

\[
Y_i = \beta_0 + \beta_1 X_i + \epsilon_i
\]

여기서:
- \( Y_i \): 종속 변수의 관측값 (i번째 데이터)
- \( X_i \): 독립 변수의 값
- \( \beta_0 \): 절편 (Intercept)
- \( \beta_1 \): 기울기 (회귀 계수)
- \( \epsilon_i \): **오차항**(Error Term)

오차항 \( \epsilon_i \)는 모델이 설명하지 못하는 부분으로, 실제 \( Y_i \)와 모델이 예측한 \( \hat{Y}_i \)의 차이를 나타냅니다:

\[
\epsilon_i = Y_i - \hat{Y}_i
\]

이 값은 이론적으로는 관측할 수 없지만, 실증 분석에서는 **잔차**(Residual), 즉 \( e_i = Y_i - \hat{Y}_i \)로 추정됩니다.

---

## 오차항의 성질과 가정

회귀 분석의 신뢰성 있는 추론을 위해서는 오차항이 다음과 같은 통계적 가정을 만족해야 합니다. 이를 **고전적 회귀 가정**(Classical Linear Regression Assumptions)이라고 합니다:

### 1. **영 평균 가정 (Zero Mean)**
오차항의 기대값은 0입니다.  
\[
E(\epsilon_i) = 0
\]
이는 모델이 평균적으로 편향 없이 예측하고 있음을 의미합니다.

### 2. **등분산성 (Homoscedasticity)**
오차항의 분산이 모든 관측치에 대해 일정합니다.  
\[
Var(\epsilon_i) = \sigma^2 \quad (\text{모든 } i \text{에 대해})
\]
분산이 일정하지 않으면 **이분산성**(Heteroscedasticity) 문제가 발생하며, 이는 추정 결과의 신뢰도를 떨어뜨립니다.

### 3. **비상관계 (No Autocorrelation)**
오차항들 사이에는 상관이 없습니다.  
\[
Cov(\epsilon_i, \epsilon_j) = 0 \quad (i \neq j)
\]
특히 시계열 데이터에서 이 가정이 위배되면 자기상관(Autocorrelation) 문제가 발생합니다.

### 4. **독립 변수와의 비상관성 (Exogeneity)**
오차항은 독립 변수와 상관이 없습니다.  
\[
Cov(X_i, \epsilon_i) = 0
\]
이 가정이 위배되면 **내생성**(Endogeneity) 문제가 생기고, 회귀 계수의 추정이 편향될 수 있습니다.

### 5. **정규분포 가정 (Normality)**
특히 소표본 추론에서는 오차항이 정규분포를 따른다고 가정합니다.  
\[
\epsilon_i \sim N(0, \sigma^2)
\]
대표본에서는 중심극한정리에 의해 이 가정이 완화될 수 있습니다.

---

## 오차항의 역할

### 1. **모델 적합도 평가**
오차항의 크기와 패턴을 분석함으로써 모델의 적합도를 평가할 수 있습니다. 예를 들어, 잔차 산점도(Residual Plot)를 통해 비선형성, 이분산성 등을 진단할 수 있습니다.

### 2. **예측 불확실성 측정**
오차항의 분산(잔차 제곱합 등)은 예측의 불확실성을 나타내며, 신뢰구간과 예측구간 계산에 사용됩니다.

### 3. **가설 검정의 기초**
회귀 계수의 유의성 검정(t-검정, F-검정)은 오차항의 분포와 분산 추정에 기반합니다.

---

## 오차항과 잔차의 차이

| 구분 | 오차항 (Error Term) | 잔차 (Residual) |
|------|---------------------|-----------------|
| 정의 | 모집단 모델에서의 실제 오차 | 표본 데이터에서 계산된 오차 추정치 |
| 관측 가능성 | 이론적 존재, 직접 관측 불가 | 실제 데이터로 계산 가능 |
| 수식 | \( \epsilon_i = Y_i - E[Y_i] \) | \( e_i = Y_i - \hat{Y}_i \) |
| 사용 목적 | 모델 이론, 가정 설정 | 모델 진단, 평가 |

---

## 참고 자료 및 관련 문서

- **회귀 분석 (Regression Analysis)**
- **잔차 분석 (Residual Analysis)**
- **가정 진단 (Assumption Checking)**
- **이분산성 (Heteroscedasticity)**
- **자기상관 (Autocorrelation)**

오차항에 대한 이해는 통계 모델의 타당성을 평가하고, 신뢰할 수 있는 결론을 도출하는 데 필수적입니다. 따라서 데이터 분석 시 오차항의 진단과 해석은 모델 개선의 중요한 첫걸음이 됩니다.