# 희소 행렬

## 개요

**희소 행렬**(Sparse)은 행렬의 대부분의소가 0인 특수한 형태의 행렬을 의미합니다. 일반적으로 수치 계산, 머신러닝, 그래프 이론, 자연어 처리, 네트워크 분석 등 다양한 데이터 과학 분야에서 대규모 데이터를 효율적으로 처리하기 위해 사용됩니다. 희소 행렬은 데이터의 크기가 크지만 실제로 유의미한 정보(0이 아닌 값)를 가진 원소가 매우 적은 경우에 자주 등장합니다.

전통적인 밀집 행렬(Dense Matrix)은 모든 원소를 메모리에 저장하지만, 희소 행렬은 0이 아닌 원소만을 효율적으로 저장하고 접근함으로써 메모리 사용량과 계산 비용을 크게 줄일 수 있습니다. 이 문서에서는 희소 행렬의 개념, 주요 저장 형식, 활용 사례 및 장단점에 대해 설명합니다.

---

## 희소 행렬의 개념

희소 행렬은 전체 원소 중 **비영(non-zero) 원소가 극히 적은** 행렬을 말합니다. 예를 들어, 1000×1000 크기의 행렬이지만 0이 아닌 값이 단 50개만 존재한다면, 이는 매우 희소한 행렬로 간주됩니다.

### 희소도(Sparsity)
희소도는 행렬 내 0인 원소의 비율을 나타내는 지표입니다. 다음과 같이 계산됩니다:

\[
\text{Sparsity} = \frac{\text{0의 개수}}{\text{전체 원소 수}}
\]

희소도가 높을수록(예: 0.95 이상) 희소 행렬의 효율적 저장과 처리가 더 중요해집니다.

---

## 희소 행렬의 저장 형식

희소 행렬을 효율적으로 저장하기 위해 다양한 데이터 구조가 개발되었습니다. 주요 저장 방식은 다음과 같습니다.

### 1. COO (Coordinate Format)
- **형식**: `(행 인덱스, 열 인덱스, 값)`의 트리플로 비영 원소를 저장.
- **장점**: 구조가 간단하고, 행렬 생성이 용이함.
- **단점**: 행렬 연산 시 성능이 낮음.
- **사용 예**: 초기 데이터 수집 후 변환 전 단계.

```python
# COO 형식 예시 (3개의 비영 원소)
rows = [0, 2, 1]
cols = [1, 3, 2]
data = [5, 3, 7]
```

### 2. CSR (Compressed Sparse Row)
- **형식**: 행을 기준으로 압축하여 저장.
- **구성 요소**:
  - `data`: 비영 원소 값 배열
  - `indices`: 각 원소의 열 인덱스 배열
  - `indptr`: 각 행의 시작 인덱스를 가리키는 포인터 배열
- **장점**: 행 단위 접근 및 행렬-벡터 곱셈에 매우 효율적.
- **단점**: 열 단위 연산은 비효율적.

```python
# CSR 예시
data = [5, 7, 3]
indices = [1, 2, 3]
indptr = [0, 1, 2, 3]  # 3행까지
```

### 3. CSC (Compressed Sparse Column)
- **형식**: CSR과 유사하지만 **열을 기준**으로 압축.
- **장점**: 열 단위 접근 및 전치 행렬 연산에 유리.
- **단점**: 행 단위 연산은 비효율적.
- **사용 예**: 선형 대수 라이브러리에서 전치 연산이 빈번한 경우.

---

## 활용 분야

### 1. 자연어 처리 (NLP)
- **문서-단어 행렬**(Term-Document Matrix)은 각 문서에서 단어의 출현 빈도를 나타내며, 대부분의 항목이 0입니다. TF-IDF 벡터화 후에도 희소성이 매우 높습니다.

### 2. 추천 시스템
- 사용자-아이템 상호작용 행렬(예: 영화 평점)은 대부분의 사용자가 모든 아이템을 평가하지 않기 때문에 희소합니다. 이를 **희소 행렬 기반 협업 필터링**에 활용합니다.

### 3. 그래프 이론
- 인접 행렬로 표현된 그래프는 정점 수가 많을수록 희소해지며, CSR/CSC 형식으로 저장하면 그래프 탐색 알고리즘의 성능이 향상됩니다.

### 4. 기계학습
- 고차원 피처 공간(예: 원-핫 인코딩)에서 많은 피처가 0인 경우 희소 행렬을 사용해 메모리와 계산 효율을 개선합니다. Scikit-learn 등 라이브러리는 희소 입력을 지원합니다.

---

## 장점과 단점

| 장점 | 설명 |
|------|------|
| 메모리 절약 | 0이 아닌 원소만 저장하므로 메모리 사용량이 획기적으로 감소 |
| 연산 효율 | 특정 연산(예: 행렬 곱셈)에서 불필요한 0 계산을 생략 가능 |
| 확장성 | 대규모 데이터셋에서도 처리 가능 |

| 단점 | 설명 |
|------|------|
| 구현 복잡성 | 일반 행렬과 달리 특수한 자료구조 필요 |
| 일부 연산 비효율 | 전치, 열 접근 등 특정 연산은 느릴 수 있음 |
| 디버깅 어려움 | 시각화 및 직접 접근이 어려움 |

---

## 관련 라이브러리 및 도구

- **Python (SciPy)**: `scipy.sparse` 모듈은 COO, CSR, CSC 등을 지원하며, 효율적인 희소 행렬 연산을 제공.
- **TensorFlow / PyTorch**: 딥러닝 프레임워크에서도 희소 텐서를 지원하여 고차원 입력 처리에 활용.
- **Pandas**: `sparse` 데이터 타입을 통해 희소 시리즈 및 데이터프레임 지원.

```python
from scipy.sparse import csr_matrix
import numpy as np

# 밀집 배열 생성
dense = np.array([[0, 5, 0], [0, 0, 7], [3, 0, 0]])

# CSR 형식으로 변환
sparse_csr = csr_matrix(dense)
print(sparse_csr)
```

---

## 참고 자료

- [SciPy Sparse Matrices Documentation](https://docs.scipy.org/doc/scipy/reference/sparse.html)
- Golub, G. H., & Van Loan, C. F. (2013). *Matrix Computations*. Johns Hopkins University Press.
- Barabási, A. L. (2016). *Network Science*. Cambridge University Press.

희소 행렬은 데이터 과학의 핵심 기초 기술 중 하나로, 대용량 데이터의 효율적 처리를 가능하게 합니다. 적절한 저장 형식 선택과 도메인 특성 이해를 통해 성능을 극대화할 수 있습니다.