사전 훈련된 모델 (Pre-trained Model)
1. 개요
사전 훈련된 모델(Pre-trained Model)이란 방대한 양의 데이터셋을 사용하여 특정 작업(Task)을 수행하도록 미리 학습된 머신러닝 모델을 의미한다.
일반적으로 딥러닝 모델을 처음부터 학습시키는 스크래치 학습(Training from scratch)은 막대한 양의 레이블링된 데이터와 고성능 컴퓨팅 자원(GPU/TPU), 그리고 긴 학습 시간이 필요하다. 반면, 사전 훈련된 모델은 이미 일반적인 패턴과 특징을 학습한 상태이므로, 사용자는 이를 가져와 자신의 특정 목적에 맞게 소량의 데이터로 추가 학습시키거나 그대로 사용하여 효율적으로 인공지능 시스템을 구축할 수 있다.
2. 작동 원리 및 메커니즘
사전 훈련된 모델의 핵심 메커니즘은 전이 학습(Transfer Learning)에 기반한다. 전이 학습이란 한 작업에서 학습한 지식을 유사하거나 새로운 다른 작업에 적용하는 기법이다.
- 일반적 특징 학습 (General Feature Learning): 모델은 먼저 대규모 데이터셋(예: ImageNet, Wikipedia)을 통해 자기 지도 학습(Self-Supervised Learning) 방식으로 데이터의 보편적인 구조를 학습한다. 예를 들어, 이미지 모델은 선, 면, 색상과 같은 기초적인 시각적 특징을 학습하고, 언어 모델은 문법, 문맥, 단어 간의 관계와 같은 언어적 구조를 학습한다.
- 지식 전이 (Knowledge Transfer): 학습된 가중치(Weights)는 데이터의 추상적인 표현력을 가지고 있으며, 이를 새로운 작업의 초기값으로 사용함으로써 학습의 시작점을 최적화한다.
- 특수화 (Specialization): 전이된 지식을 바탕으로 타겟 데이터셋에 맞게 모델의 상위 계층을 수정하여 특정 도메인(예: 의료 영상 진단, 법률 문서 분류)에 최적화한다.
3. 주요 활용 기법
사전 훈련된 모델을 활용하는 방법은 크게 '특징 추출'과 '미세 조정'으로 나뉜다.
모델의 하위 계층(Backbone) 가중치를 고정(Freeze)하고, 마지막 출력층(Head)만 새로 설계하여 학습시키는 방법이다. 모델이 이미 학습한 특징을 그대로 사용하며, 분류기만 새로 학습시키므로 연산 비용이 매우 낮다.
[가중치 고정(Freeze) 개념도]
입력 데이터 $\rightarrow$ [ 고정된 하위 계층 (Frozen Weights: 학습 X) ] $\rightarrow$ [ 새로운 출력층 (Trainable Weights: 학습 O) ] $\rightarrow$ 결과
3.2 미세 조정 (Fine-tuning)
사전 훈련된 가중치를 초기값으로 사용하되, 새로운 데이터셋으로 모델의 전체 또는 일부 계층의 가중치를 다시 업데이트하는 방법이다. 타겟 데이터가 사전 학습 데이터와 성격이 다를 때 성능을 극대화하기 위해 사용한다.
[표 1] 특징 추출 vs 미세 조정 비교
| 구분 |
특징 추출 (Feature Extraction) |
미세 조정 (Fine-tuning) |
| 가중치 업데이트 |
출력층(Head)만 업데이트 |
전체 또는 일부 계층 업데이트 |
| 학습 속도 |
매우 빠름 |
상대적으로 느림 |
| 필요 데이터량 |
매우 적은 양으로 가능 |
어느 정도의 데이터셋 필요 |
| 위험 요소 |
모델의 표현력 제한 가능성 |
과적합(Overfitting) 위험 높음 |
| 사용 시점 |
타겟 데이터가 매우 적을 때 |
타겟 데이터가 충분하고 도메인이 다를 때 |
4. 대표적인 모델 사례
분야별로 표준처럼 사용되는 사전 훈련된 모델들이 존재하며, 이들은 각기 다른 데이터셋으로 학습되었다.
[표 2] 분야별 대표 모델 및 학습 데이터셋
| 분야 |
대표 모델 |
주요 학습 데이터셋 |
특징 |
| 컴퓨터 비전 |
ResNet, EfficientNet |
ImageNet |
이미지 분류 및 특징 추출의 표준 |
| 자연어 처리 |
BERT |
Wikipedia, BookCorpus |
양방향 문맥 이해, 인코더 기반 |
| 자연어 처리 |
GPT 시리즈, Llama |
Common Crawl, WebText |
텍스트 생성, 디코더 기반 |
| 오디오/음성 |
Whisper, Wav2Vec 2.0 |
다국어 음성 데이터 |
음성 인식 및 텍스트 변환(STT) |
| 멀티모달 |
CLIP |
Image-Text Pairs |
이미지와 텍스트의 공동 임베딩 학습 |
5. 도입의 장점과 한계
5.1 장점
- 자원 효율성: 수백만 달러 규모의 컴퓨팅 비용과 수개월의 학습 시간을 획기적으로 단축한다.
- 데이터 부족 문제 해결: 레이블링된 데이터가 적은 상황에서도 높은 일반화 성능을 확보할 수 있다.
- 빠른 프로토타이핑: 검증된 모델 구조를 사용하여 빠르게 서비스 가능 여부를 판단할 수 있다.
5.2 한계 및 주의점
- 도메인 불일치 (Domain Mismatch): 사전 학습 데이터와 실제 적용 데이터의 분포가 너무 다를 경우(예: 일반 사진 $\rightarrow$ X-ray 사진), 성능이 급격히 저하될 수 있다.
- 편향성 전이 (Bias Transfer): 학습 데이터에 내재된 고정관념이나 차별적 요소가 모델의 판단 기준에 반영되어, 특정 집단에 대해 편향되거나 부적절한 결과를 출력할 위험이 있다.
- 모델 크기 부담: 최신 거대 모델(LLM 등)의 경우, 추론 시 요구되는 메모리 자원이 매우 크다.
6. 모델 선택 기준 가이드
적절한 사전 훈련된 모델을 선택하기 위해서는 다음의 기준을 고려해야 한다.
- 작업의 성격: 분류(Classification), 생성(Generation), 회귀(Regression) 중 어떤 작업인지 확인한다.
- 데이터의 규모: 데이터가 매우 적다면 특징 추출이 가능한 가벼운 모델을, 충분하다면 미세 조정이 가능한 대형 모델을 선택한다.
- 추론 환경 (Latency): 실시간 응답이 중요하다면 파라미터 수가 적은 경량 모델(예: MobileNet, DistilBERT)을 선택한다.
- 라이선스: 상업적 이용 가능 여부(Apache 2.0, MIT, Llama-3 Community License 등)를 반드시 확인한다.
7. 최신 트렌드: PEFT (Parameter-Efficient Fine-Tuning)
모델의 크기가 거대해짐에 따라 모든 가중치를 업데이트하는 전체 미세 조정(Full Fine-tuning)이 불가능해졌다. 이를 해결하기 위해 매개변수 효율적 미세 조정(PEFT) 기법이 등장했다.
- LoRA (Low-Rank Adaptation): 원래의 가중치는 고정하고, 매우 작은 크기의 행렬(Low-rank matrices)만을 추가하여 학습시키는 기법이다. 메모리 사용량을 획기적으로 줄이면서도 전체 미세 조정에 근접한 성능을 낸다.
- Adapter: 모델 계층 사이에 작은 신경망 층(Adapter)을 삽입하여 해당 부분만 학습시키는 방식이다.
- Prompt Tuning: 모델 가중치는 건드리지 않고, 입력값 앞에 최적의 '가상 토큰(Soft Prompt)'을 학습시켜 모델의 출력을 유도하는 방식이다.
8. 학습 데이터셋의 품질 관리
사전 훈련된 모델을 미세 조정할 때, 데이터의 양보다 중요한 것이 데이터의 품질이다.
- 데이터 정제 (Cleaning): 중복 데이터 제거, 오탈자 수정, 노이즈(HTML 태그 등) 제거를 통해 모델의 혼란을 방지한다.
- 데이터 균형 (Balancing): 특정 클래스에 데이터가 쏠리지 않도록 샘플링하여 모델의 편향을 막는다.
- 품질 검수 (Human-in-the-loop): 특히 LLM의 경우, RLHF(인간 피드백 기반 강화학습)를 통해 정답의 정확성과 안전성을 검증하는 과정이 필수적이다.
9. 구현 예시 및 워크플로우
현대적인 AI 개발에서는 Hugging Face와 같은 모델 저장소와 <a href="/doc/%EA%B8%B0%EC%88%A0/%ED%94%84%EB%A1%9C%EA%B7%B8%EB%9E%98%EB%B0%8D/Python/transformers" class="wiki-link wiki-link-missing">transformers</a> 라이브러리를 통해 간단히 구현할 수 있다.
9.1 일반적인 워크플로우
- 모델 탐색: Hugging Face Hub 등에서 작업에 맞는 모델 ID 확인
- 모델 로드: 사전 훈련된 가중치와 토크나이저/전처리기 로드
- 구조 수정: 타겟 작업에 맞게 출력층(Head) 변경
- 학습/추론: 미세 조정 수행 또는 즉시 추론 적용
9.2 코드 예제 (Python/PyTorch)
# 필수 라이브러리 설치
pip install transformers torch
from transformers import AutoTokenizer, AutoModelForSequenceClassification
import torch
# 1. 사전 훈련된 모델과 토크나이저 로드 (BERT 기반 감성 분석 모델)
model_name = "distilbert-base-uncased-finetuned-sst-2-english"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForSequenceClassification.from_pretrained(model_name)
# 2. 입력 텍스트 전처리
text = "This pre-trained model is incredibly efficient!"
inputs = tokenizer(text, return_tensors="pt")
# 3. 추론 수행
with torch.no_grad():
logits = model(**inputs).logits
# 4. 결과 해석
predicted_class_id = logits.argmax().item()
print(f"Predicted class: {predicted_class_id}") # 1: Positive, 0: Negative
10. 요약
사전 훈련된 모델은 대규모 데이터셋을 통해 학습된 지식을 새로운 작업에 재사용하는 전이 학습의 산물이다. 특징 추출과 미세 조정이라는 두 가지 핵심 활용법이 있으며, 최근에는 거대 모델의 효율적 학습을 위한 PEFT 기법이 주류를 이루고 있다. 이를 통해 개발자는 막대한 자원 없이도 고성능 AI 시스템을 빠르게 구축할 수 있으나, 도메인 불일치와 데이터 편향성 문제에 유의해야 한다.
[[분류:기술]] [[분류:인공지능]] [[분류:모델 재사용]]
# 사전 훈련된 모델 (Pre-trained Model)
## 1. 개요
**사전 훈련된 모델(Pre-trained Model)**이란 방대한 양의 데이터셋을 사용하여 특정 작업(Task)을 수행하도록 미리 학습된 머신러닝 모델을 의미한다.
일반적으로 딥러닝 모델을 처음부터 학습시키는 **스크래치 학습(Training from scratch)**은 막대한 양의 레이블링된 데이터와 고성능 컴퓨팅 자원(GPU/TPU), 그리고 긴 학습 시간이 필요하다. 반면, 사전 훈련된 모델은 이미 일반적인 패턴과 특징을 학습한 상태이므로, 사용자는 이를 가져와 자신의 특정 목적에 맞게 소량의 데이터로 추가 학습시키거나 그대로 사용하여 효율적으로 인공지능 시스템을 구축할 수 있다.
## 2. 작동 원리 및 메커니즘
사전 훈련된 모델의 핵심 메커니즘은 **전이 학습(Transfer Learning)**에 기반한다. 전이 학습이란 한 작업에서 학습한 지식을 유사하거나 새로운 다른 작업에 적용하는 기법이다.
1. **일반적 특징 학습 (General Feature Learning):** 모델은 먼저 대규모 데이터셋(예: ImageNet, Wikipedia)을 통해 **자기 지도 학습(Self-Supervised Learning)** 방식으로 데이터의 보편적인 구조를 학습한다. 예를 들어, 이미지 모델은 선, 면, 색상과 같은 기초적인 시각적 특징을 학습하고, 언어 모델은 문법, 문맥, 단어 간의 관계와 같은 언어적 구조를 학습한다.
2. **지식 전이 (Knowledge Transfer):** 학습된 가중치(Weights)는 데이터의 추상적인 표현력을 가지고 있으며, 이를 새로운 작업의 초기값으로 사용함으로써 학습의 시작점을 최적화한다.
3. **특수화 (Specialization):** 전이된 지식을 바탕으로 타겟 데이터셋에 맞게 모델의 상위 계층을 수정하여 특정 도메인(예: 의료 영상 진단, 법률 문서 분류)에 최적화한다.
## 3. 주요 활용 기법
사전 훈련된 모델을 활용하는 방법은 크게 '특징 추출'과 '미세 조정'으로 나뉜다.
### 3.1 특징 추출 (Feature Extraction)
모델의 하위 계층(Backbone) 가중치를 고정(Freeze)하고, 마지막 출력층(Head)만 새로 설계하여 학습시키는 방법이다. 모델이 이미 학습한 특징을 그대로 사용하며, 분류기만 새로 학습시키므로 연산 비용이 매우 낮다.
**[가중치 고정(Freeze) 개념도]**
`입력 데이터` $\rightarrow$ `[ 고정된 하위 계층 (Frozen Weights: 학습 X) ]` $\rightarrow$ `[ 새로운 출력층 (Trainable Weights: 학습 O) ]` $\rightarrow$ `결과`
### 3.2 미세 조정 (Fine-tuning)
사전 훈련된 가중치를 초기값으로 사용하되, 새로운 데이터셋으로 모델의 전체 또는 일부 계층의 가중치를 다시 업데이트하는 방법이다. 타겟 데이터가 사전 학습 데이터와 성격이 다를 때 성능을 극대화하기 위해 사용한다.
### [표 1] 특징 추출 vs 미세 조정 비교
| 구분 | 특징 추출 (Feature Extraction) | 미세 조정 (Fine-tuning) |
| :--- | :--- | :--- |
| **가중치 업데이트** | 출력층(Head)만 업데이트 | 전체 또는 일부 계층 업데이트 |
| **학습 속도** | 매우 빠름 | 상대적으로 느림 |
| **필요 데이터량** | 매우 적은 양으로 가능 | 어느 정도의 데이터셋 필요 |
| **위험 요소** | 모델의 표현력 제한 가능성 | 과적합(Overfitting) 위험 높음 |
| **사용 시점** | 타겟 데이터가 매우 적을 때 | 타겟 데이터가 충분하고 도메인이 다를 때 |
## 4. 대표적인 모델 사례
분야별로 표준처럼 사용되는 사전 훈련된 모델들이 존재하며, 이들은 각기 다른 데이터셋으로 학습되었다.
### [표 2] 분야별 대표 모델 및 학습 데이터셋
| 분야 | 대표 모델 | 주요 학습 데이터셋 | 특징 |
| :--- | :--- | :--- | :--- |
| **컴퓨터 비전** | ResNet, EfficientNet | ImageNet | 이미지 분류 및 특징 추출의 표준 |
| **자연어 처리** | BERT | Wikipedia, BookCorpus | 양방향 문맥 이해, 인코더 기반 |
| **자연어 처리** | GPT 시리즈, Llama | Common Crawl, WebText | 텍스트 생성, 디코더 기반 |
| **오디오/음성** | Whisper, Wav2Vec 2.0 | 다국어 음성 데이터 | 음성 인식 및 텍스트 변환(STT) |
| **멀티모달** | CLIP | Image-Text Pairs | 이미지와 텍스트의 공동 임베딩 학습 |
## 5. 도입의 장점과 한계
### 5.1 장점
- **자원 효율성:** 수백만 달러 규모의 컴퓨팅 비용과 수개월의 학습 시간을 획기적으로 단축한다.
- **데이터 부족 문제 해결:** 레이블링된 데이터가 적은 상황에서도 높은 일반화 성능을 확보할 수 있다.
- **빠른 프로토타이핑:** 검증된 모델 구조를 사용하여 빠르게 서비스 가능 여부를 판단할 수 있다.
### 5.2 한계 및 주의점
- **도메인 불일치 (Domain Mismatch):** 사전 학습 데이터와 실제 적용 데이터의 분포가 너무 다를 경우(예: 일반 사진 $\rightarrow$ X-ray 사진), 성능이 급격히 저하될 수 있다.
- **편향성 전이 (Bias Transfer):** 학습 데이터에 내재된 고정관념이나 차별적 요소가 모델의 판단 기준에 반영되어, 특정 집단에 대해 편향되거나 부적절한 결과를 출력할 위험이 있다.
- **모델 크기 부담:** 최신 거대 모델(LLM 등)의 경우, 추론 시 요구되는 메모리 자원이 매우 크다.
## 6. 모델 선택 기준 가이드
적절한 사전 훈련된 모델을 선택하기 위해서는 다음의 기준을 고려해야 한다.
1. **작업의 성격:** 분류(Classification), 생성(Generation), 회귀(Regression) 중 어떤 작업인지 확인한다.
2. **데이터의 규모:** 데이터가 매우 적다면 특징 추출이 가능한 가벼운 모델을, 충분하다면 미세 조정이 가능한 대형 모델을 선택한다.
3. **추론 환경 (Latency):** 실시간 응답이 중요하다면 파라미터 수가 적은 경량 모델(예: MobileNet, DistilBERT)을 선택한다.
4. **라이선스:** 상업적 이용 가능 여부(Apache 2.0, MIT, Llama-3 Community License 등)를 반드시 확인한다.
## 7. 최신 트렌드: PEFT (Parameter-Efficient Fine-Tuning)
모델의 크기가 거대해짐에 따라 모든 가중치를 업데이트하는 전체 미세 조정(Full Fine-tuning)이 불가능해졌다. 이를 해결하기 위해 **매개변수 효율적 미세 조정(PEFT)** 기법이 등장했다.
- **LoRA (Low-Rank Adaptation):** 원래의 가중치는 고정하고, 매우 작은 크기의 행렬(Low-rank matrices)만을 추가하여 학습시키는 기법이다. 메모리 사용량을 획기적으로 줄이면서도 전체 미세 조정에 근접한 성능을 낸다.
- **Adapter:** 모델 계층 사이에 작은 신경망 층(Adapter)을 삽입하여 해당 부분만 학습시키는 방식이다.
- **Prompt Tuning:** 모델 가중치는 건드리지 않고, 입력값 앞에 최적의 '가상 토큰(Soft Prompt)'을 학습시켜 모델의 출력을 유도하는 방식이다.
## 8. 학습 데이터셋의 품질 관리
사전 훈련된 모델을 미세 조정할 때, 데이터의 양보다 중요한 것이 **데이터의 품질**이다.
- **데이터 정제 (Cleaning):** 중복 데이터 제거, 오탈자 수정, 노이즈(HTML 태그 등) 제거를 통해 모델의 혼란을 방지한다.
- **데이터 균형 (Balancing):** 특정 클래스에 데이터가 쏠리지 않도록 샘플링하여 모델의 편향을 막는다.
- **품질 검수 (Human-in-the-loop):** 특히 LLM의 경우, RLHF(인간 피드백 기반 강화학습)를 통해 정답의 정확성과 안전성을 검증하는 과정이 필수적이다.
## 9. 구현 예시 및 워크플로우
현대적인 AI 개발에서는 [Hugging Face](https://huggingface.co/)와 같은 모델 저장소와 `transformers` 라이브러리를 통해 간단히 구현할 수 있다.
### 9.1 일반적인 워크플로우
1. **모델 탐색:** Hugging Face Hub 등에서 작업에 맞는 모델 ID 확인
2. **모델 로드:** 사전 훈련된 가중치와 토크나이저/전처리기 로드
3. **구조 수정:** 타겟 작업에 맞게 출력층(Head) 변경
4. **학습/추론:** 미세 조정 수행 또는 즉시 추론 적용
### 9.2 코드 예제 (Python/PyTorch)
```bash
# 필수 라이브러리 설치
pip install transformers torch
```
```python
from transformers import AutoTokenizer, AutoModelForSequenceClassification
import torch
# 1. 사전 훈련된 모델과 토크나이저 로드 (BERT 기반 감성 분석 모델)
model_name = "distilbert-base-uncased-finetuned-sst-2-english"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForSequenceClassification.from_pretrained(model_name)
# 2. 입력 텍스트 전처리
text = "This pre-trained model is incredibly efficient!"
inputs = tokenizer(text, return_tensors="pt")
# 3. 추론 수행
with torch.no_grad():
logits = model(**inputs).logits
# 4. 결과 해석
predicted_class_id = logits.argmax().item()
print(f"Predicted class: {predicted_class_id}") # 1: Positive, 0: Negative
```
## 10. 요약
사전 훈련된 모델은 대규모 데이터셋을 통해 학습된 지식을 새로운 작업에 재사용하는 **전이 학습**의 산물이다. **특징 추출**과 **미세 조정**이라는 두 가지 핵심 활용법이 있으며, 최근에는 거대 모델의 효율적 학습을 위한 **PEFT** 기법이 주류를 이루고 있다. 이를 통해 개발자는 막대한 자원 없이도 고성능 AI 시스템을 빠르게 구축할 수 있으나, 도메인 불일치와 데이터 편향성 문제에 유의해야 한다.
[[분류:기술]] [[분류:인공지능]] [[분류:모델 재사용]]