# 브로드캐스팅

## 개요

브로캐스팅(Broadcast)은 **데이터 과학**과 **수치 계산**에서 다차원 배열(행렬) 간의 연산을 수행할 때, 서로 크기가 다른 배열을 자동으로 확장하여 연산을 가능하게 하는 기법입니다. 이 개념은 주로 **NumPy**, **TensorFlow**, **PyTorch** 등의 수치 연산 라이브러리에서 핵심적인 역할을 하며, 효율적인 벡터화 연산을 가능하게 함으로써 반복문 없이도 대량의 데이터를 빠르게 처리할 수 있도록 돕습니다.

브로드캐스팅은 수학적으로 정의된 규칙에 따라 작동하며, 메모리 상에서 실제로 배열을 복제하지 않고 **가상의 확장**(virtual expansion)을 통해 연산을 수행하므로 메모리 사용을 최소화합니다.

---

## 브로드캐스팅의 원리

브로드캐스팅은 두 배열의 **형상**(shape)을 비교하여, 특정 조건을 만족하면 작은 배열을 큰 배열의 크기에 맞춰 자동으로 확장합니다. 이 과정은 실제 데이터 복제 없이 계산 그래프 내에서 인덱스 매핑을 통해 이루어지므로 매우 효율적입니다.

### 브로드캐스팅 규칙

다음 두 조건 중 하나 이상이 만족되어야 브로드캐스팅이 가능합니다:

1. **해당 차원의 크기가 동일**하다.
2. **해당 차원의 크기가 1**이거나, **하나의 배열이 해당 차원을 가지고 있지 않다**.

이 규칙은 배열의 **가장 오른쪽 차원부터 왼쪽으로** 비교됩니다. 예를 들어, `(3, 1)` 형태의 배열과 `(1, 4)` 형태의 배열은 다음과 같이 브로드캐스팅됩니다:

- `(3, 1)` → `(3, 4)`로 확장 (행 방향 복제)
- `(1, 4)` → `(3, 4)`로 확장 (열 방향 복제)

결과적으로 `(3, 4)` 크기의 배열에 대한 연산이 수행됩니다.

---

## 브로드캐스팅의 예시

다음은 Python의 NumPy를 활용한 브로드캐스팅의 대표적인 예시입니다.

```python
import numpy as np

# 2D 배열 (3, 3)
A = np.array([[1, 2, 3],
              [4, 5, 6],
              [7, 8, 9]])

# 1D 배열 (3,)
B = np.array([10, 20, 30])

# 브로드캐스팅을 통한 덧셈
C = A + B
print(C)
```

출력 결과:
```
[[11 22 33]
 [14 25 36]
 [17 28 39]]
```

여기서 1차원 배열 `B`는 자동으로 `(3, 3)` 형태로 확장되어 각 행에 더해집니다. 이는 내부적으로 다음과 같은 동작을 수행한 것과 동일합니다:

```python
B_expanded = np.array([[10, 20, 30],
                       [10, 20, 30],
                       [10, 20, 30]])
C = A + B_expanded
```

하지만 브로드캐스팅은 실제로 `B_expanded`를 생성하지 않기 때문에 **메모리 효율적**입니다.

---

## 고차원 배열에서의 브로드캐스팅

브로드캐스팅은 고차원 배열에서도 동일한 규칙을 따릅니다. 예를 들어, `(2, 1, 5)` 배열과 `(3, 5)` 배열 간의 연산을 고려해 봅시다.

- `(2, 1, 5)` → `(2, 3, 5)`로 확장 (두 번째 차원에서 복제)
- `(3, 5)` → `(1, 3, 5)` → `(2, 3, 5)`로 확장

결과적으로 `(2, 3, 5)` 크기의 출력 배열이 생성됩니다.

---

## 브로드캐스팅의 활용 분야

브로드캐스팅은 다음과 같은 분야에서 널리 사용됩니다:

- **기계 학습**: 가중치와 입력 데이터 간의 연산 (예: 선형 변환)
- **이미지 처리**: 각 채널에 동일한 연산 적용 (예: 정규화)
- **통계 계산**: 평균, 표준편차 등을 전체 데이터에 적용
- **신경망 계층 연산**: 배치 정규화(Batch Normalization), 활성화 함수 등

예를 들어, 이미지 데이터 `(batch_size, height, width, channels)`에 대해 각 채널별 평균을 빼는 정규화 작업에서, 평균 값이 `(1, 1, 1, 3)` 형태라면 전체 배치에 대해 브로드캐스팅을 통해 효율적으로 연산이 가능합니다.

---

## 주의사항 및 제한

브로드캐스팅은 매우 유용하지만, 다음 사항에 주의해야 합니다:

- **의도치 않은 확장**이 발생할 수 있으므로, 배열의 형상을 명확히 이해해야 함.
- 브로드캐스팅이 불가능한 경우, `ValueError: operands could not be broadcast together`와 같은 오류 발생.
- 너무 복잡한 브로드캐스팅은 코드의 가독성을 떨어뜨릴 수 있으므로, 필요시 `np.expand_dims()` 또는 `reshape()`을 사용해 명시적으로 형상을 조정하는 것이 좋습니다.

---

## 관련 라이브러리 및 함수

| 라이브러리 | 브로드캐스팅 지원 | 비고 |
|----------|------------------|------|
| NumPy    | ✅               | 가장 널리 사용됨 |
| PyTorch  | ✅               | GPU 연산과 함께 사용 가능 |
| TensorFlow | ✅             | 텐서 연산의 기본 기능 |
| JAX      | ✅               | 함수형 프로그래밍과 최적화에 특화 |

브로드캐스팅은 이들 라이브러리의 **기본 연산**(+, -, *, /, 등)에서 자동으로 적용됩니다.

---

## 참고 자료

- [NumPy Broadcasting Documentation](https://numpy.org/doc/stable/user/basics.broadcasting.html)
- *Python for Data Analysis* – Wes McKinney
- *Deep Learning with Python* – François Chollet

브로드캐스팅은 데이터 과학에서 배열 연산의 효율성과 가독성을 높이는 핵심 개념으로, 이를 이해하고 올바르게 활용하는 것은 고성능 수치 계산을 위한 필수 역량입니다.