# 뉴턴 방법

##요

**뉴턴 방법**(Newton Method), 또는 **뉴턴-랍슨 방법**(Newton-Raphson Method)은 비선형 방정식의 근을 수치적으로 근사하는 데 사용되는 강력한 반복 최적화 알고리즘. 이 방법은 미분 가능한 함수에 대해 초기 추정값에서 출발하여 접선을 이용해 점차 정확한 해에 수렴하도록 설계되어 있으며, 특히 수치해석과 공학 분야에서 널리 활용됩니다. 뉴턴 방법은 일반적으로 빠른 수렴 속도를 가지며, **2차 수렴**(quadratic convergence)을 보이는 경우가 많아 효율적인 알고리즘으로 평가됩니다.

이 문서에서는 뉴턴 방법의 수학적 기초, 알고리즘 절차, 수렴 조건, 장단점, 그리고 실제 응용 사례를 다룹니다.

---

## 기본 원리

뉴턴 방법은 주어진 함수 \( f(x) \)에 대해 \( f(x) = 0 \)인 \( x \) 값을 찾는 것을 목표로 합니다. 이는 **방정식의 근**(root)을 구하는 문제로, 해석적으로 풀기 어려운 비선형 방정식에 특히 유용합니다.

### 수학적 배경

뉴턴 방법은 **테일러 급수 전개**의 1차 근사에 기반합니다. 함수 \( f(x) \)를 점 \( x_n \) 근처에서 1차로 근사하면:

\[
f(x) \approx f(x_n) + f'(x_n)(x - x_n)
\]

이 근사를 이용해 \( f(x) = 0 \)이 되는 \( x \) 값을 찾으면:

\[
0 = f(x_n) + f'(x_n)(x - x_n) \implies x = x_n - \frac{f(x_n)}{f'(x_n)}
\]

이 값을 다음 반복값 \( x_{n+1} \)로 설정합니다. 따라서 반복 공식은 다음과 같습니다:

\[
x_{n+1} = x_n - \frac{f(x_n)}{f'(x_n)}
\]

이 공식을 반복적으로 적용함으로써, \( x_n \)이 실제 근에 점점 가까워지게 됩니다.

---

## 알고리즘 절차

뉴턴 방법의 알고리즘은 다음과 같은 단계로 구성됩니다:

1. **초기값 설정**: 근의 근처라고 추정되는 초기값 \( x_0 \)을 선택합니다.
2. **반복 계산**:
   - \( x_{n+1} = x_n - \frac{f(x_n)}{f'(x_n)} \) 계산
   - \( |x_{n+1} - x_n| < \epsilon \) 또는 \( |f(x_{n+1})| < \epsilon \)이면 종료 (\( \epsilon \): 허용 오차)
   - 그렇지 않으면 \( n \leftarrow n+1 \)하고 반복
3. **수렴 확인**: 반복이 수렴했는지 확인하고, 결과 반환

### 의사코드

```python
def newton_method(f, df, x0, tol=1e-6, max_iter=100):
    x = x0
    for i in range(max_iter):
        fx = f(x)
        if abs(fx) < tol:
            return x
        dfx = df(x)
        if abs(dfx) < 1e-10:
            raise ValueError("도함수가 0에 가까워 수렴 불가")
        x = x - fx / dfx
    raise ValueError("최대 반복 횟수 초과")
```

---

## 수렴성과 조건

뉴턴 방법은 다음과 같은 조건에서 빠르게 수렴합니다:

- 함수 \( f \)가 **두 번 미분 가능**하고, \( f'(x) \neq 0 \)인 구간에서 정의되어야 함.
- 초기값 \( x_0 \)이 실제 근에 **충분히 가까워야** 함.
- 함수가 **볼록 또는 오목**하여 국소 최소/최대에 함정에 빠지지 않아야 함.

### 수렴 속도

뉴턴 방법은 근이 단일근(single root)이고 초기값이 근에 가까울 경우 **2차 수렴**(quadratic convergence)을 보입니다. 즉, 오차가 매 반복마다 제곱으로 줄어듭니다:

\[
|x_{n+1} - r| \leq C |x_n - r|^2
\]

여기서 \( r \)은 실제 근, \( C \)는 상수입니다.

---

## 장점과 단점

| 장점 | 단점 |
|------|------|
| 빠른 수렴 속도 (2차 수렴) | 도함수 \( f' \) 계산이 필요함 |
| 정밀한 해 도출 가능 | 초기값에 민감함 (수렴하지 않을 수 있음) |
| 수학적으로 명확한 기반 | 다중근(multiple root)에서는 선형 수렴으로 저하됨 |
| 다양한 분야에 응용 가능 | 발산하거나 진동하는 경우 존재 |

---

## 응용 분야

뉴턴 방법은 다음과 같은 분야에서 활용됩니다:

- **수치해석**: 비선형 방정식의 근 찾기
- **최적화**: 함수의 최소값/최대값을 찾기 위해 도함수 \( f'(x) = 0 \)을 푸는 데 사용 (뉴턴 최적화법)
- **공학**: 구조 해석, 유체역학 등에서 비선형 시스템 해석
- **컴퓨터 과학**: 제곱근 계산 (예: \( \sqrt{S} \) 계산 시 \( f(x) = x^2 - S \) 적용)

### 예: 제곱근 계산

\( \sqrt{S} \)를 구하기 위해 \( f(x) = x^2 - S \)를 설정하면:

\[
x_{n+1} = x_n - \frac{x_n^2 - S}{2x_n} = \frac{1}{2} \left( x_n + \frac{S}{x_n} \right)
\]

이 식은 고대 바빌로니아의 제곱근 알고리즘과 동일하며, 뉴턴 방법의 대표적인 응용입니다.

---

## 관련 알고리즘

- **할선법**(Secant Method): 도함수 계산 없이 두 점의 기울기를 근사
- **스티펜슨 방법**: 더 높은 수렴 차수를 가지는 변형
- ** quasi-뉴턴 방법**(예: BFGS): 다변수 최적화에서 헤세 행렬을 근사

---

## 참고 자료

- Atkinson, K. E. (1989). *An Introduction to Numerical Analysis*. Wiley.
- Burden, R. L., & Faires, J. D. (2010). *Numerical Analysis*. Brooks/Cole.
- Wikipedia contributors. "Newton's method." *Wikipedia, The Free Encyclopedia*.

> 이 문서는 수치계산 분야에서 핵심적인 최적화 알고리즘인 뉴턴 방법에 대한 기초 지식과 활용을 제공합니다. 정확한 해를 빠르게 찾고자 할 때, 이 방법은 여전히 가장 강력한 도구 중 하나입니다.