# 환각 현상

## 정의
환각 현상(Hallucination)이란 LLM(대규모 언어 모델)이 학습 데이터에 없는 내용을 마치 사실인 것처럼 자신 있게 생성하는 현상을 말한다. 이는 모델이 논리적으로는 그럴듯해 보이지만, 실제 사실과는 다른 허위 정보를 생성하는 일종의 생성 오류이다.

## 발생 원인
환각 현상은 LLM의 기본 작동 원리와 데이터의 한계로 인해 발생하며, 주요 원인은 다음과 같다.

*   **확률적 생성 방식:** LLM은 다음에 올 가장 확률 높은 단어를 예측하여 문장을 생성하므로, 사실 관계보다는 문맥적 자연스러움을 우선시하는 경향이 있다.
*   **학습 데이터의 한계:** 학습 데이터 자체에 오류가 포함되어 있거나, 특정 주제에 대한 정보가 부족할 때 잘못된 정보를 조합하여 생성한다.
*   **과적합(Overfitting) 및 일반화 오류:** 특정 패턴을 과하게 학습하여 유사한 질문에 대해 잘못된 확신을 가지고 답변하는 경우가 발생한다.

## 유형
환각 현상은 정보의 출처와 일치 여부에 따라 크게 두 가지 유형으로 나뉜다.

| 유형 | 설명 | 예시 |
| :--- | :--- | :--- |
| **내적 환각 (Intrinsic Hallucination)** | 제공된 입력 문맥(Context) 내의 정보와 상충되는 내용을 생성하는 경우 | 주어진 지문에는 'A는 B이다'라고 되어 있으나, 답변에서는 'A는 C이다'라고 주장함 |
| **외적 환각 (Extrinsic Hallucination)** | 제공된 문맥을 넘어서거나 외부 사실과 다른 정보를 생성하는 경우 | 존재하지 않는 논문 제목을 인용하거나, 가공의 인물에 대한 약력을 상세히 서술함 |

## 해결 방안
환각 현상을 완전히 제거하는 것은 어려우나, 다음과 같은 기술적 접근을 통해 발생 빈도를 낮출 수 있다.

### 1. RAG (검색 증강 생성, Retrieval-Augmented Generation)
모델 내부의 지식에만 의존하지 않고, 신뢰할 수 있는 외부 지식 베이스(DB, 문서 등)에서 관련 정보를 먼저 검색한 뒤 그 내용을 바탕으로 답변을 생성하게 하여 정확도를 높이는 방식이다.

### 2. 프롬프트 엔지니어링 (Prompt Engineering)
*   **Few-shot Prompting:** 답변의 예시를 몇 가지 제공하여 모델이 출력 형식을 학습하게 한다.
*   **Chain-of-Thought (CoT):** "단계별로 생각해보세요"와 같은 지시어를 통해 추론 과정을 명시하게 함으로써 논리적 오류를 줄인다.
*   **제약 조건 설정:** "모르는 내용은 모른다고 답하십시오"라는 지침을 명확히 부여한다.

### 3. RLHF (인간 피드백 기반 강화학습, Reinforcement Learning from Human Feedback)
사람이 모델의 답변을 평가하고 교정하는 과정을 통해, 사실에 기반한 답변에 더 높은 보상을 주어 모델의 정직성을 향상시키는 방법이다.