Hallucination 개요 Hallucination(환)은 인공지능, 특히 자연 처리(NLP) 분야에서 생성형 언어 모델(Gener Language Model)이 사실과 무하거나 허위인 내용을 자신감 있게 생성하는 현상을 의미합니다.는 모델이 학습 데이터에 기반하여 논리적 흐름을 유지하며 문장을 생성하더라도, 그 내용이 실제 세계의 사실과 일치하지 않거…
검색 결과
"Hallucination"에 대한 검색 결과 (총 62개)
환각 (Hallucination) 환각(Hallucination, 줄여서 Hallu)은 인공지능, 특히 대규모 언어 모델(LLM)이 사실과 다르거나 존재하지 않는 정보를 확신에 차서 생성하는 현상을 의미합니다. 이는 인공지능의 신뢰성을 해치는 주요 장애물 중 하나로, 모델이 학습 데이터에 없는 사실을 마치 사실인 것처럼 지어내거나(Hallucination)…
GPT 개요 GPT(Generative Pre-trained Transformer)는 오픈AI(OpenAI)에서발한 자연어 처리(NLP) 분야의 대표적인 언어 모델 시리즈로, 트랜스포머(Transformer) 아키텍처를 기반으로 한 생성형 사전 훈련 모델입니다. GPT는 대량의 텍스트 데이터를 이용해 사전 훈련된 후, 특정 작업에 맞게 미세 조정(fine-…
NLU (자연어 이해, Natural Language Understanding) 1. 개요 NLU(Natural Language Understanding, 자연어 이해)는 컴퓨터가 인간의 자연어(Natural Language)를 분석하여 그 속에 담긴 의미, 의도, 문맥을 파악하고 구조화된 데이터로 변환하는 인공지능의 한 분야이다. NLU는 더 넓은 범위의…
환각 현상 정의 환각 현상(Hallucination)이란 LLM(대규모 언어 모델)이 학습 데이터에 없는 내용을 마치 사실인 것처럼 자신 있게 생성하는 현상을 말한다. 이는 모델이 논리적으로는 그럴듯해 보이지만, 실제 사실과는 다른 허위 정보를 생성하는 일종의 생성 오류이다. 발생 원인 환각 현상은 LLM의 기본 작동 원리와 데이터의 한계로 인해 발생하며,…
LLMOps (Large Language Model Operations) LLMOps는 거대언어모델(LLM)을 효율적으로 개발, 배포, 유지관리하기 위한 머신러닝 운영(MLOps)의 확장 개념입니다. 이는 LLM의 생애주기 전반을 체계적으로 관리하여 모델의 성능을 최적화하고, 안정적인 서비스 운영을 가능하게 하는 일련의 프로세스와 도구들을 의미합니다. LL…
프롬프트 (Prompt) 1. 개요 프롬프트(Prompt)란 대규모 언어 모델(LLM, Large Language Model)로부터 특정 응답을 이끌어내기 위해 사용자가 입력하는 지시어나 질문, 데이터 등을 의미한다. 과거에는 주로 텍스트 기반의 입력에 국한되었으나, 최근의 멀티모달(Multimodal) 트렌드에 따라 이미지, 오디오, 파일 등 다양한 형태…
투명성 확 개요 인공지능(AI)의속한 발전과 함께, 시스템이 사회 전반에 미치는 영향은 점점 더 커지고 있습니다. 의료, 금융, 사법, 고용 등 민감한 분야에서 AI 기술이 의사결정을 지원하거나 직접 개입함에 따라, 시스템의 작동 방식과 결정 근거에 대한 투명성 확보가 중요한 윤리적 요구사항으로 떠올랐습니다. 투명성 확보란 AI 시스템의 설계, 데이터 처리…
데이터 편향 개요 데이터 편향(Data Bias)은 머신러닝 모델 훈련에 사용되는 데이터셋에 시스템적으로 왜곡된 패턴이 존재하는 현상으로, 모델의 예측 결과에 불공정성이나 오류를 유발할 수 있습니다. 이러한 편향은 데이터 수집, 전처리, 모델링 전 단계에서 발생할 수 있으며, 사회적 불평등을 심화시키거나 법적 문제를 야기할 수 있습니다. 예를 들어, 얼굴 …
프롬프트 기반 인터페이스 (Prompt-based Interface) 1. 개요 프롬프트 기반 인터페이스(Prompt-based Interface, 이하 LUI: Language User Interface)란 사용자가 자연어(Natural Language) 형태의 지시문인 '프롬프트'를 입력하여 시스템의 동작을 제어하고 원하는 결과물을 얻어내는 상호작용 방…
데이터 과학 (Data Science) 1. 개요 데이터 과학(Data Science)은 정형 및 비정형 데이터로부터 유의미한 통찰(Insight)과 지식을 추출하기 위해 수학, 통계학, 컴퓨터 과학 및 도메인 지식을 융합하여 활용하는 다학제적 분야이다. 현대 사회에서 데이터 과학은 단순한 통계 분석을 넘어, 방대한 양의 데이터(Big Data)를 처리하고…
생성 능력 (Generative Capability) 1. 개요 생성 능력(Generative Capability)이란 인공지능이 학습 데이터에 내재된 확률적 패턴과 구조(즉, 데이터 간의 관계를 확률적으로 모델링하거나 통계적 특성을 학습하는 것)를 파악하여, 기존에 존재하지 않았던 새로운 데이터 샘플(텍스트, 이미지, 오디오, 비디오 등)을 만들어내는 능…
언어적 표현 (Linguistic Expression) 1. 개요 핵심 용어: 상징(Symbol): 실제 대상과 직접적인 물리적 연관성은 없으나, 사회적 약속에 의해 특정 의미를 갖게 된 기호. 언어 체계(Language System): 특정 공동체가 사용하는 문법, 어휘, 음운 규칙의 집합. 언어적 표현이란 인간이 자신의 생각, 감정, 의도 등을 특정한 …
챗봇 개요 봇(Chatbot) 자연어처리(N, Natural Language Processing)술을 기반으로 사용자와 텍 또는 음성 기의 대화를 수행 인공지능 시템입니다. 챗봇은 인간처럼 언어를 이해하고 응답함으로 고객 서비스, 정보 제공, 업무 자동화 등 다양한 분야에서되고 있습니다. 최근 인공지능과 머신닝 기술의 발전으로, 단순한 규칙 기반 시스템을 …
자동 대체 텍스트 생성 (Automatic Alternative Text Generation) 1. 개요 자동 대체 텍스트 생성이란 [[인공지능]] 기술을 활용하여 이미지, 그래프, 아이콘 등 시각적 콘텐츠의 내용을 분석하고, 이를 설명하는 텍스트(Alternative Text, 이하 Alt Text)를 자동으로 생성하는 기술이다. 대체 텍스트는 [[웹 접…
문서화 자동화 개요 문서화동화(Documentation Automation) 소프트웨어 개발 과정에서 발생하는 다양한 문서 작업을 자동으로 생성, 관리, 업데이트하는 기술적 접근 방식 의미합니다. 소프트웨어 유지보수 단계에서 문서는 시스템 이해, 오류 진단, 기능 확장, 협업 효율성 향상 등에 핵심적인 역할을 하지만, 수동으로 작성하는 경우 일관성 부족, …
온톨로지 (Ontology) 온톨로지는 특정 도메인 내의 개념, 개체, 그리고 이들 간의 관계를 컴퓨터가 처리할 수 있는 형태로 정의한 정형화된 지식 모델이다. 1. 개요 온톨로지는 본래 철학에서 '존재론'이라는 의미로 사용되었으며, 존재하는 것들의 성질과 범주를 연구하는 학문을 뜻한다. 그러나 컴퓨터 과학 및 정보과학 분야에서의 온톨로지는 지식 표현(Kn…
스트리밍 오류 LLM 서비스에서 응답을 받을 수 없습니다. 성능 모니터링 지표 LLM 서비스의 품질을 정량적으로 측정하기 위해 다음과 같은 핵심 성능 지표(KPI)를 모니터링해야 합니다. 주요 측정 기준 응답 속도 (Latency): 사용자가 요청을 보낸 시점부터 첫 번째 토큰을 받을 때까지의 시간(TTFT)과 전체 응답 완료까지의 시간을 측정합니다. 처리…
LLM (거대 언어 모델) 1. 개요 LLM(Large Language Model, 거대 언어 모델)은 방대한 양의 텍스트 데이터를 학습하여 인간과 유사한 자연어를 이해하고 생성할 수 있도록 설계된 인공신경망 기반의 딥러닝 모델이다. 여기서 '거대(Large)'함은 크게 두 가지 측면을 의미한다. 첫째는 파라미터(Parameter, 매개변수)의 수로, 모델…
정보 검색 개요 정보 검색(Information Retrieval, IR)은 사용자가 필요로 하는 정보를 대의 데이터 집합에서 효과적이고 효율적으로 찾아내는 기 및 과정을 의미합니다. 이는 전통적인 도서관 카탈로그 시스템에서 시작되어, 오늘날 인터넷 기반의 검색 엔진, 기업 내 문서 관리 시스템, 추천 시스템 등 다양한 분야에 적용되고 있습니다. 정보 검색…