환각 현상 정의 환각 현상(Hallucination)이란 LLM(대규모 언어 모델)이 학습 데이터에 없는 내용을 마치 사실인 것처럼 자신 있게 생성하는 현상을 말한다. 이는 모델이 논리적으로는 그럴듯해 보이지만, 실제 사실과는 다른 허위 정보를 생성하는 일종의 생성 오류이다. 발생 원인 환각 현상은 LLM의 기본 작동 원리와 데이터의 한계로 인해 발생하며,…
검색 결과
"환각 현상"에 대한 검색 결과 (총 31개)
GPT 개요 GPT(Generative Pre-trained Transformer)는 오픈AI(OpenAI)에서발한 자연어 처리(NLP) 분야의 대표적인 언어 모델 시리즈로, 트랜스포머(Transformer) 아키텍처를 기반으로 한 생성형 사전 훈련 모델입니다. GPT는 대량의 텍스트 데이터를 이용해 사전 훈련된 후, 특정 작업에 맞게 미세 조정(fine-…
C4 (Colossal Clean Crawled Corpus) 개요 C4 (Colossal Clean Crawled Corpus)는 구글(Google)이 T5(Text-to-Text Transfer Transformer) 모델의 사전 학습(Pre-training)을 위해 구축한 대규모 정제 텍스트 데이터셋이다. 웹상의 방대한 데이터를 수집하는 Common …
프롬프트 기반 인터페이스 (Prompt-based Interface) 1. 개요 프롬프트 기반 인터페이스(Prompt-based Interface, 이하 LUI: Language User Interface)란 사용자가 자연어(Natural Language) 형태의 지시문인 '프롬프트'를 입력하여 시스템의 동작을 제어하고 원하는 결과물을 얻어내는 상호작용 방…
생성 능력 (Generative Capability) 1. 개요 생성 능력(Generative Capability)이란 인공지능이 학습 데이터에 내재된 확률적 패턴과 구조(즉, 데이터 간의 관계를 확률적으로 모델링하거나 통계적 특성을 학습하는 것)를 파악하여, 기존에 존재하지 않았던 새로운 데이터 샘플(텍스트, 이미지, 오디오, 비디오 등)을 만들어내는 능…
언어적 표현 (Linguistic Expression) 1. 개요 핵심 용어: 상징(Symbol): 실제 대상과 직접적인 물리적 연관성은 없으나, 사회적 약속에 의해 특정 의미를 갖게 된 기호. 언어 체계(Language System): 특정 공동체가 사용하는 문법, 어휘, 음운 규칙의 집합. 언어적 표현이란 인간이 자신의 생각, 감정, 의도 등을 특정한 …
챗봇 개요 봇(Chatbot) 자연어처리(N, Natural Language Processing)술을 기반으로 사용자와 텍 또는 음성 기의 대화를 수행 인공지능 시템입니다. 챗봇은 인간처럼 언어를 이해하고 응답함으로 고객 서비스, 정보 제공, 업무 자동화 등 다양한 분야에서되고 있습니다. 최근 인공지능과 머신닝 기술의 발전으로, 단순한 규칙 기반 시스템을 …
자동 대체 텍스트 생성 (Automatic Alternative Text Generation) 1. 개요 자동 대체 텍스트 생성이란 [[인공지능]] 기술을 활용하여 이미지, 그래프, 아이콘 등 시각적 콘텐츠의 내용을 분석하고, 이를 설명하는 텍스트(Alternative Text, 이하 Alt Text)를 자동으로 생성하는 기술이다. 대체 텍스트는 [[웹 접…
문서화 자동화 개요 문서화동화(Documentation Automation) 소프트웨어 개발 과정에서 발생하는 다양한 문서 작업을 자동으로 생성, 관리, 업데이트하는 기술적 접근 방식 의미합니다. 소프트웨어 유지보수 단계에서 문서는 시스템 이해, 오류 진단, 기능 확장, 협업 효율성 향상 등에 핵심적인 역할을 하지만, 수동으로 작성하는 경우 일관성 부족, …
Hallucination 개요 Hallucination(환)은 인공지능, 특히 자연 처리(NLP) 분야에서 생성형 언어 모델(Gener Language Model)이 사실과 무하거나 허위인 내용을 자신감 있게 생성하는 현상을 의미합니다.는 모델이 학습 데이터에 기반하여 논리적 흐름을 유지하며 문장을 생성하더라도, 그 내용이 실제 세계의 사실과 일치하지 않거…
LLM (거대 언어 모델) 1. 개요 LLM(Large Language Model, 거대 언어 모델)은 방대한 양의 텍스트 데이터를 학습하여 인간과 유사한 자연어를 이해하고 생성할 수 있도록 설계된 인공신경망 기반의 딥러닝 모델이다. 여기서 '거대(Large)'함은 크게 두 가지 측면을 의미한다. 첫째는 파라미터(Parameter, 매개변수)의 수로, 모델…
딥러닝 기반 언어 모델 (Deep Learning-based Language Model) 1. 개요 딥러닝 기반 언어 모델은 인공신경망을 이용하여 단어 시퀀스의 확률 분포를 학습함으로써, 주어진 텍스트 다음에 올 단어를 예측하거나 문장의 의미를 수치적으로 표현하는 인공지능 모델이다. 과거의 통계적 방식에서 벗어나 대규모 데이터와 심층 신경망을 결합함으로써 …
대규모 언어 모델 (Large Language Model, LLM) 1. 개요 대규모 언어 모델(Large Language Model, 이하 LLM)은 방대한 양의 텍스트 데이터를 학습하여 인간과 유사한 자연어를 이해하고 생성할 수 있도록 설계된 거대 인공 신경망 모델이다. LLM은 수십억 개 이상의 파라미터(Parameter, 모델 내부의 가중치로 학습을…
OpenAI Whisper OpenAI에서 개발한 오픈소스 자동 음성 인식(Automatic Speech Recognition, ASR) 모델입니다. 방대한 양의 다국어 및 다중 작업 웹 데이터를 학습하여 음성 인식, 언어 식별, 그리고 영어 번역 기능을 통합적으로 제공합니다. 특징 다국어 지원: 수십 개의 언어를 인식하고 처리할 수 있으며, 다양한 언어의…
DialoGPT 1. 개요 DialoGPT는 Microsoft에서 개발한 대화형 생성 모델로, 대규모 텍스트 코퍼스로 사전 훈련된 GPT-2(Generative Pre-trained Transformer 2) 모델을 Reddit의 대화형 데이터셋으로 미세 조정(Fine-tuning)하여 인간과 유사한 다회차 대화(Multi-turn Conversation)…
다중 모달 분석 (Multimodal Analysis) 1. 개요 다중 모달 분석(Multimodal Analysis)이란 텍스트, 이미지, 오디오, 비디오, 센서 데이터 등 서로 다른 형태의 데이터 양식(Modality, 모달리티)을 통합적으로 처리하여 정보의 의미를 추출하고 분석하는 인공지능 기술이다. 인간이 시각, 청각, 촉각 등 다양한 감각 기관을 …
평가 가이드라인 1. 개요 평가 가이드라인이란 평가 지표의 정의, 평가자가 준수해야 할 판정 기준, 그리고 데이터 수집 및 검증 절차를 체계화한 문서이다. 인공지능(AI) 모델과 같은 복잡한 시스템은 출력값이 가변적이기 때문에, 평가자의 주관에 따라 결과가 달라질 위험이 크다. 따라서 명확한 가이드라인을 통해 평가 간의 일관성(Consistency)을 확보…
질문 응답 시스템 개요 질문 응답 시스템(Question Answering, QA)은 사용자가 자연어로 제시한 질문에 대해 정확하고 간결한 답변을 자동으로 생성하는 기술이다. 전통적인 정보 검색(IR) 시스템이 “문서 목록”을 반환한다면, QA 시스템은 “답변 자체”를 제공한다는 점에서 차별화된다. 최근 딥러닝, 특히 대규모 사전학습 언어 모델(Pre‑tr…
도메인 적합성 (Domain Suitability) 1. 개요 도메인 적합성(Domain Suitability)이란 인공지능 모델이 특정 분야(Domain)의 지식, 용어, 문맥 및 관습을 정확하게 이해하고 이를 바탕으로 해당 분야의 요구사항에 부합하는 결과물을 생성하는 능력을 의미한다. 일반적인 AI 모델 평가에서 사용되는 정확도(Accuracy), F1…
문맥 의존성 (Context Dependency) 문맥 의존성(Context Dependency)은 자연어 처리(Natural Language Processing, NLP) 및 언어학에서 단어나 문장의 의미가 주변 환경(문맥)에 따라 달라지는 현상을 지칭하는 개념입니다. 인간의 언어는 고정된 사전적 정의만으로는 완전한 의미를 전달하기 어렵기 때문에, 문맥을…