# 소프트맥스 (Softmax)

소프트맥스(Softmax) 함수는 입력받은 벡터의 각 요소를 0과 1 사이의 값으로 변환하며, 출력된 모든 값의 총합이 1이 되도록 만드는 함수입니다. 주로 딥러닝의 다중 분류(Multi-class Classification) 모델에서 출력층에 사용되며, 모델이 예측한 각 클래스에 대한 확률 분포를 나타내는 데 활용됩니다.

### 수학적 정의

소프트맥스 함수의 수식은 다음과 같습니다.

$$\sigma(\mathbf{z})_i = \frac{e^{z_i}}{\sum_{j=1}^K e^{z_j}}$$

여기서 $z_i$는 입력 벡터의 $i$번째 요소이며, $K$는 전체 클래스의 개수를 의미합니다.

## 핵심 특징

*   **확률 분포 변환**: 출력값의 총합이 항상 1이 되므로, 결과값을 각 클래스에 속할 확률로 해석할 수 있습니다.
*   **지수 함수 활용**: 입력값에 지수 함수($e$)를 적용함으로써, 입력값 간의 작은 차이를 증폭시켜 큰 값은 더 크게, 작은 값은 더 작게 만드는 특성이 있습니다. 이를 통해 가장 가능성이 높은 클래스를 명확하게 구분해 줍니다.

## 활용 사례

*   **다중 클래스 분류**: 예를 들어, 이미지 속 동물이 '개', '고양이', '토끼' 중 무엇인지 판별하는 모델에서 각 동물일 확률을 계산하여 가장 높은 확률을 가진 클래스를 최종 예측값으로 선택합니다.
*   **교차 엔트로피(Cross-Entropy) 손실 함수**: 소프트맥스 함수는 주로 교차 엔트로피 손실 함수와 함께 사용됩니다. 모델이 예측한 확률 분포와 실제 정답(One-hot encoding된 벡터) 사이의 거리를 계산하여 모델을 학습시키는 데 최적화되어 있습니다.

## 시그모이드 함수와의 비교

| 구분 | 시그모이드 (Sigmoid) | 소프트맥스 (Softmax) |
| :--- | :--- | :--- |
| **주요 용도** | 이진 분류 (Binary Classification) | 다중 분류 (Multi-class Classification) |
| **출력 형태** | 0 ~ 1 사이의 단일 값 | 총합이 1인 확률 분포 벡터 |
| **특징** | 각 출력값이 독립적임 | 출력값들이 서로 영향을 주고받음 (상호 배타적) |