# 환각 (Hallucination)

**환각**(Hallucination, 줄여서 **Hallu**)은 인공지능, 특히 대규모 언어 모델(LLM)이 사실과 다르거나 존재하지 않는 정보를 확신에 차서 생성하는 현상을 의미합니다. 이는 인공지능의 신뢰성을 해치는 주요 장애물 중 하나로, 모델이 학습 데이터에 없는 사실을 마치 사실인 것처럼 지어내거나(Hallucination), 논리적 비약을 일으키는 현상을 포괄합니다.

## 1. 개요

인공지능이 인간처럼 지능적으로 행동한다고 평가받기 위해서는 정확하고 신뢰할 수 있는 정보 제공이 필수적입니다. 그러나 최근 생성형 AI 기술이 급속도로 발전하면서, 모델이 완전히 허구적인 내용을 사실인 것처럼 서술하는 '환각' 문제가 대두되었습니다. 이는 모델이 단순히 데이터를 암기하거나 패턴을 매칭하는 것을 넘어, 문맥에 맞는 자연스러운 언어를 생성하는 과정에서 발생하는 부작용으로 볼 수 있습니다.

환각은 단순한 오류(Error)와 구별됩니다. 오류는 계산 실수나 프로그래밍 버그로 인한 것이지만, 환각은 모델이 내부적으로 생성한 내용이 외부 현실과 일치하지 않음에도 불구하고 높은 확신도(High Confidence)를 가지고 출력한다는 점에서 특징적입니다.

## 2. 환각의 원인

환각이 발생하는 이유는 단일하지 않으며, 모델의 아키텍처와 학습 방식, 그리고 입력 데이터의 특성 등 여러 요인이 복합적으로 작용합니다.

### 2.1 확률적 예측의 한계
대규모 언어 모델은 다음에 올 단어를 확률적으로 예측하여 문장을 생성합니다. 이 과정에서 모델은 가장 확률이 높은 단어를 선택하지만, 이는 반드시 '사실'을 의미하지는 않습니다. 모델이 학습 데이터에서 자주 등장하는 문맥적 패턴을 따르다 보면, 사실과는 다른 내용이라도 문법적으로 매끄러운 문장을 만들어낼 수 있습니다.

### 2.2 학습 데이터의 부족 또는 편향
모델이 특정 주제에 대해 충분한 학습 데이터를 확보하지 못했을 때, 모델은 빈틈을 메우기 위해 추론을 시도합니다. 이때 학습되지 않은 정보를 외부 지식처럼 착각하여 생성할 수 있습니다. 또한, 학습 데이터 자체가 편향되어 있거나 오류를 포함하고 있다면, 모델은 이를 그대로 학습하여 환각을 유발할 수 있습니다.

### 2.3 맥락 이해의 실패
복잡한 추론이 필요한 질문이나 모순된 전제가 포함된 질문의 경우, 모델이 맥락을 제대로 파악하지 못하고 표면적인 단어 연결만 따라가다 잘못된 결론을 도출할 수 있습니다.

## 3. 환각의 유형

환각은 그 성격과 발생 원인에 따라 다음과 같이 분류할 수 있습니다.

| 유형 | 설명 | 예시 |
| :--- | :--- | :--- |
| **사실적 환각** | 존재하지 않는 사실, 인물, 사건을 사실인 것처럼 서술하는 경우 | "아인슈타인은 노벨상을 수상하기 전에 프로그래밍을 배웠다." (사실 아님) |
| **내부적 환각** | 모델이 이전에 생성한 내용과 모순되거나, 주어진 프롬프트의 지시를 무시하는 경우 | "3가지 장점을 나열해 주세요."라고 요청했는데 5가지를 나열하거나, 앞선 문장과 반대되는 내용 생성 |
| **추론적 환각** | 논리적 추론 과정에서 비약이 발생하여 잘못된 결론을 도출하는 경우 | 수학 문제나 논리 퍼즐을 풀 때, 계산 과정은 정확하나 최종 답이 틀린 경우 |

## 4. 완화 전략 및 해결 방안

환각 문제를 완전히 제거하는 것은 현재 기술로 어렵지만, 다음과 같은 전략을 통해 그 빈도와 영향을 줄일 수 있습니다.

### 4.1 검색 증강 생성 (RAG, Retrieval-Augmented Generation)
모델이 생성할 때 외부 지식베이스(데이터베이스, 문서 등)에서 관련 정보를 검색하여 프롬프트에 포함시키는 방식입니다. 이를 통해 모델이 학습 데이터에만 의존하지 않고, 최신이고 정확한 외부 정보를 참조하여 답변의 정확도를 높일 수 있습니다.

### 4.2 프롬프트 엔지니어링 및 체인 오브 쓰트 (CoT)
모델에게 "단계별로 생각해보라(Think step-by-step)"와 같은 지시를 주어 추론 과정을 명시적으로 유도합니다. 이는 모델이 최종 답변에 도달하기까지 논리적 비약을 줄이고, 자신의 추론 과정을 검증할 수 있게 합니다.

### 4.3 모델 미세 조정 및 강화 학습
인간 피드백을 통한 강화 학습(RLHF) 등을 통해 모델이 사실에 기반한 답변을 생성하도록 보상을 부여하고, 환각을 유발하는 패턴을 억제하는 방향으로 모델을 미세 조정합니다.

## 5. 결론 및 전망

인공지능의 환각 현상은 생성형 AI가 실생활에 깊이 통합됨에 따라 가장 중요한 신뢰성 이슈로 부상했습니다. 의료, 법률, 금융 등 오류가 허용되지 않는 고위험 분야에서는 환각을 최소화하는 기술적 해결책과 함께, 인간 전문가의 검증(Human-in-the-loop) 과정이 필수적입니다.

향후 연구 방향은 단순히 환각을 줄이는 것을 넘어, 모델이 자신의 불확실성을 인지하고 "모른다"고 명확히 표현하거나, 근거를 제시하는 방향으로 발전할 것입니다. 이는 인공지능이 단순한 정보 생성 도구를 넘어, 신뢰할 수 있는 지성 파트너로 자리매김하는 데 중요한 전제가 될 것입니다.

## 참고 문헌 및 관련 문서

*   **생성형 인공지능 (Generative AI)**: 데이터를 기반으로 새로운 콘텐츠를 생성하는 AI 기술
*   **대규모 언어 모델 (LLM)**: 방대한 텍스트 데이터를 학습하여 자연어를 이해하고 생성하는 인공지능 모델
*   **검색 증강 생성 (RAG)**: 외부 데이터를 검색하여 LLM의 답변 품질을 향상시키는 기술
*   **인간 피드백을 통한 강화 학습 (RLHF)**: 인간의 선호도를 반영하여 AI 모델을 학습시키는 방법