# 단순 회귀

## 개요
단순 회귀(Simple Regression)는 하나의 독립 변수(X)와 종속 변수(Y) 간의 선형 관계를 모델링하는 통계적 방법이다. 이 기법은 데이터 간의 상관관계를 분석하고, 미래 값을 예측하거나 변수 간의 영향을 설명하는 데 널리 사용된다. 단순 회귀는 다중 회귀(Multiple Regression)와 달리 단일 독립 변수만을 고려하며, 수학적 모델로 표현된 선형 방정식을 통해 결과를 도출한다.

## 수학적 기초

### 1. 회귀 방정식
단순 회귀의 기본 방정식은 다음과 같다:
$$ y = \beta_0 + \beta_1 x + \epsilon $$
- $ y $: 종속 변수 (예측 대상)
- $ x $: 독립 변수 (예측 요인)
- $ \beta_0 $: 절편 (intercept) - $ x=0 $일 때의 $ y $ 값
- $ \beta_1 $: 회귀 계수 (slope) - $ x $가 1단위 증가할 때 $ y $의 변화량
- $ \epsilon $: 오차항 (error term) - 모델이 설명하지 못하는 잔차

### 2. 최소 제곱법 (Least Squares Method)
회귀 계수 $ \beta_0 $과 $ \beta_1 $은 **오차의 제곱합을 최소화**하는 방식으로 추정된다. 공식은 다음과 같다:
$$
\beta_1 = \frac{\sum{(x_i - \bar{x})(y_i - \bar{y})}}{\sum{(x_i - \bar{x})^2}}, \quad 
\beta_0 = \bar{y} - \beta_1 \bar{x}
$$
- $ \bar{x}, \bar{y} $: $ x $와 $ y $의 평균

## 회귀 분석 단계

### 1. 데이터 수집 및 시각화
- 독립 변수(X)와 종속 변수(Y)의 관계를 확인하기 위해 **산점도(Scatter Plot)**를 그린다.
- 선형 관계가 있는지, 이상치(outlier)가 존재하는지를 사전에 파악한다.

### 2. 모델 적합
- 계수 $ \beta_0 $과 $ \beta_1 $을 계산하여 회귀 방정식을 구축한다.
- 예: $ y = 2.5x + 3 $

### 3. 결과 해석
- **회귀 계수**: $ \beta_1 $이 0에 가까우면 X와 Y의 관계가 약함, 양수/음수로 방향을 판단.
- **R² (결정 계수)**: 모델이 데이터를 얼마나 잘 설명하는지를 나타내며, 0~1 사이 값. 예: R²=0.85는 85%의 변동성을 설명.

## 가정과 제한

### 1. 회귀 분석의 주요 가정
| 가정 | 설명 |
|------|------|
| 선형성 (Linearity) | X와 Y는 선형 관계를 가져야 함 |
| 독립성 (Independence) | 오차항은 서로 상관관계가 없어야 함 |
| 등분산성 (Homoscedasticity) | 오차의 분산이 일정해야 함 |
| 정규성 (Normality) | 오차는 정규 분포를 따라야 함 |

### 2. 한계
- **비선형 관계**: 데이터가 비선형일 경우 단순 회귀로 충분한 설명이 불가능.
- **외부 요인 무시**: 모델에 포함되지 않은 변수의 영향을 고려하지 않음.
- **과적합/부족적합**: 데이터 과잉 또는 부족으로 인해 예측 정확도 저하.

## 응용 분야

### 1. 실생활 사례
- **경제학**: 광고비(X)와 매출(Y) 간 관계 분석.
- **의학**: 흡연량(X)과 폐 기능(Y)의 상관관계 탐색.
- **공학**: 온도(X)에 따른 재료 수축률(Y) 예측.

### 2. 도구 및 프로그래밍
- **Python**: `scikit-learn` 라이브러리 사용 (예: `LinearRegression`)
- **R**: `lm()` 함수 활용
- **Excel**: "데이터 분석" 기능에서 회귀 분석 수행

## 참고 자료
- [Wikipedia - Regression Analysis](https://en.wikipedia.org/wiki/Regression_analysis)
- [StatQuest: Simple Linear Regression](https://www.youtube.com/watch?v=2zvUu01BqyA)
- **책**: "Introduction to Statistical Learning" (Chapter 3)

---

이 문서는 단순 회귀의 기초 개념부터 실무 적용까지 포괄적으로 설명하며, 데이터 분석 초보자와 전문가 모두에게 유용한 정보를 제공한다.