# OpenMP (Open Multi-Processing)

## 개요
**OpenMP(Open Multi-Processing)**는 C, C++, Fortran 언어를 위한 공유 메모리(Shared Memory) 아키텍처 기반의 다중 플랫폼 병렬 프로그래밍 API 표준이다.

OpenMP의 주된 목적은 개발자가 복잡한 스레드 관리 코드를 직접 작성하지 않고도, 컴파일러 지시어를 통해 기존의 순차적 프로그램을 효율적으로 병렬화할 수 있도록 돕는 것이다. 공유 메모리 모델을 사용하므로, 모든 스레드가 동일한 메모리 공간에 접근할 수 있어 데이터 교환이 빠르다는 특징이 있다.

## 동작 원리 및 구조
OpenMP는 **포크-조인(Fork-Join) 모델**을 기반으로 동작한다.

### 포크-조인 모델의 작동 방식
1. **마스터 스레드(Master Thread):** 프로그램이 시작되면 하나의 마스터 스레드만 실행된다.
2. **포크(Fork):** 병렬 영역(Parallel Region)을 만나면 마스터 스레드는 운영체제에 요청하여 여러 개의 **워커 스레드(Worker Threads)**를 생성한다.
3. **병렬 실행:** 생성된 스레드들이 할당된 작업(루프, 섹션 등)을 나누어 동시에 수행한다.
4. **조인(Join):** 병렬 영역이 끝나면 모든 워커 스레드는 종료되거나 대기 상태로 돌아가며, 다시 하나의 마스터 스레드만 남게 된다.

**[동작 흐름도]**
`순차 실행(Master)` → `Fork (스레드 생성)` → `병렬 실행 (Parallel Work)` → `Join (동기화 및 합쳐짐)` → `순차 실행(Master)`

## 주요 구성 요소
OpenMP는 크게 세 가지 제어 수단을 통해 병렬성을 제어한다.

| 구분 | 설명 | 예시 | 역할 |
| :--- | :--- | :--- | :--- |
| **컴파일러 지시어** | `#pragma`를 통해 컴파일러에게 병렬화 방법을 지시 | `#pragma omp parallel` | 코드의 병렬 실행 영역 지정 |
| **API 함수** | 런타임에 병렬 환경을 제어하는 라이브러리 함수 | `omp_get_thread_num()` | 스레드 ID 확인, 시간 측정 등 |
| **환경 변수** | 프로그램 실행 전 OS 환경에서 설정하는 변수 | `OMP_NUM_THREADS` | 사용할 스레드 개수 설정 |

## 설치 및 컴파일 방법
OpenMP는 별도의 라이브러리 설치보다는 컴파일러의 지원 여부가 중요하다. 대부분의 현대적 컴파일러(GCC, Clang, MSVC)는 OpenMP를 내장하고 있다.

### GCC (Linux/macOS)
GCC 컴파일러를 사용할 때는 `-fopenmp` 플래그를 추가해야 한다.
```bash
# 컴파일
gcc -fopenmp main.c -o main

# 실행 (스레드 수 4개로 설정)
export OMP_NUM_THREADS=4
./main
```

### MSVC (Windows Visual Studio)
1. 프로젝트 속성 $\rightarrow$ 구성 속성 $\rightarrow$ C/C++ $\rightarrow$ 언어
2. **OpenMP 지원** 항목을 `예(/openmp)`로 변경

## 핵심 지시어 및 활용법
### 주요 지시어 설명
- `#pragma omp parallel`: 이후의 코드 블록을 병렬로 실행한다.
- `#pragma omp for`: `for` 루프의 반복 횟수를 스레드 간에 분할하여 실행한다.
- `#pragma omp sections`: 서로 다른 코드 블록을 각 스레드에 할당하여 실행한다.
- `#pragma omp single`: 병렬 영역 내에서 단 하나의 스레드만 실행하도록 제한한다.
- `#pragma omp critical`: 한 번에 하나의 스레드만 진입할 수 있도록 하여 데이터 경합을 방지한다.

### 코드 예제: 루프 병렬화 비교
**[순차 실행 코드]**
```c
for (int i = 0; i < 1000; i++) {
    a[i] = b[i] + c[i];
}
```

**[OpenMP 병렬화 코드 (전체 실행 가능 예제)]**
```c
#include <omp.h>
#include <stdio.h>

int main() {
    int a[1000], b[1000], c[1000];

    // 데이터 초기화
    for (int i = 0; i < 1000; i++) {
        b[i] = i;
        c[i] = i * 2;
    }

    #pragma omp parallel for
    for (int i = 0; i < 1000; i++) {
        a[i] = b[i] + c[i];
    }

    printf("Result[999]: %d (Expected: 2997)\n", a[999]);
    return 0;
}
```

## 데이터 공유 및 동기화
### 변수 범위 (Shared vs Private)
공유 메모리 모델에서는 변수의 가시성 설정이 매우 중요하다.

| 구분 | Shared (공유 변수) | Private (개별 변수) |
| :--- | :--- | :--- |
| **정의** | 모든 스레드가 하나의 메모리 주소를 공유 | 각 스레드가 자신만의 로컬 복사본을 가짐 |
| **생명주기** | 병렬 영역 시작 전부터 종료 후까지 유지 | 병렬 영역 내에서 생성되고 종료 시 소멸 |
| **접근 권한** | 읽기/쓰기 가능 (경합 발생 위험) | 해당 스레드만 접근 가능 (안전함) |
| **기본값** | 병렬 영역 밖에서 선언된 변수는 Shared | 병렬 영역 내부에서 선언된 변수는 Private |

### 동기화 기법
**데이터 경합(Race Condition)**이란 여러 스레드가 동시에 같은 메모리에 접근하여 값을 수정할 때 결과가 예측 불가능해지는 현상을 말한다.

**[데이터 경합 발생 예시 (잘못된 코드)]**
```c
int sum = 0;
#pragma omp parallel for
for (int i = 0; i < 1000; i++) {
    sum += i; // 여러 스레드가 동시에 sum에 접근하여 쓰기 작업을 수행 (Race Condition)
}
// 결과값 sum이 매번 달라지며, 정확한 합계가 나오지 않음
```

이를 방지하기 위해 다음 기법을 사용한다.
- **Critical:** 임계 영역을 설정하여 한 번에 한 스레드만 진입하게 함.
- **Atomic:** 특정 메모리 위치에 대한 업데이트를 원자적(Atomic)으로 수행하여 오버헤드를 줄임.
- **Barrier:** 모든 스레드가 특정 지점에 도달할 때까지 대기하게 함으로써, 이전 단계의 모든 연산이 완료되었음을 보장한다.
- **Reduction:** 합계(sum)나 최댓값(max) 등을 구할 때 사용하며, 각 스레드가 로컬 복사본에 결과를 저장한 뒤 마지막에 하나로 합치는 방식으로 성능 저하를 최소화한다.

**[Reduction 적용 예시]**
```c
int sum = 0;
#pragma omp parallel for reduction(+:sum)
for (int i = 0; i < 1000; i++) {
    sum += i; // 각 스레드가 부분합을 구한 뒤 최종적으로 합산됨
}
```

## 성능 최적화 및 주의사항
### 스케줄링 전략 (`schedule` 옵션)
작업 부하가 불균형할 때 `schedule` 옵션을 통해 효율을 높일 수 있다.

- **Static:** 반복 횟수를 균등하게 미리 분배 (오버헤드 낮음, 부하 불균형 시 효율 저하).
- **Dynamic:** 작업 큐에서 가용한 스레드가 동적으로 할당 (오버헤드 높음, 부하 불균형 해결).
- **Guided:** Dynamic과 유사하나, 처음에는 크게 할당하고 점차 작게 할당하여 오버헤드를 줄임.

**[스케줄링 적용 예시]**
```c
#pragma omp parallel for schedule(dynamic, 10)
for (int i = 0; i < 1000; i++) {
    // 작업량이 매번 다른 복잡한 연산 수행
}
```

### 주의사항
- **데드락(Deadlock):** 두 개 이상의 스레드가 서로가 가진 자원을 기다리며 무한 대기하는 상태. `critical` 영역의 중첩 사용 시 주의해야 한다.
- **False Sharing:** 서로 다른 스레드가 같은 캐시 라인에 있는 서로 다른 변수를 수정할 때 발생하는 성능 저하 현상.

## 타 병렬 모델 비교

| 비교 항목 | OpenMP | MPI (Message Passing Interface) | CUDA (Compute Unified Device Architecture) |
| :--- | :--- | :--- | :--- |
| **아키텍처** | 공유 메모리 (Shared Memory) | 분산 메모리 (Distributed Memory) | GPU 가속기 (Many-core) |
| **통신 방식** | 메모리 직접 접근 | 메시지 송수신 (Send/Recv) | 호스트 $\leftrightarrow$ 디바이스 전송 |
| **확장성** | 단일 노드 내 (제한적) | 여러 노드/클러스터 (매우 높음) | 단일 GPU/멀티 GPU 내 (매우 높음) |
| **난이도** | 낮음 (지시어 기반) | 높음 (명시적 통신 설계 필요) | 높음 (메모리 계층 관리 필요) |

## 실제 활용 사례 (Use Case)
1. **수치 해석 및 시뮬레이션:** 행렬 곱셈, 선형 방정식 풀이, 유체 역학(CFD) 계산 등 대규모 루프 연산이 필요한 분야.
2. **이미지 및 비디오 처리:** 픽셀 단위의 독립적인 연산이 필요한 필터링, 렌더링 작업.
3. **데이터 분석:** 대용량 배열의 합계, 평균 계산 및 통계 처리.
4. **금융 공학:** 몬테카를로 시뮬레이션(Monte Carlo Simulation)과 같이 독립적인 반복 시행이 많은 확률 모델 계산.