XSum (Extreme Summarization) XSum은 자연어 처리(NLP), 특히 텍스트 요약(Text Summarization) 분야에서 널리 사용되는 대규모 엔드투엔드(End-to-End) 요약 벤치마크 데이터셋입니다. 2018년 옥스퍼드 대학의 NLP 연구팀에 의해 공개된 이 데이터셋은 기존 요약 데이터셋들이 가진 한계를 극복하기 위해 설계되…
검색 결과
"대규모 언어 모델"에 대한 검색 결과 (총 140개)
KoGPT KoGPT(Korean Generative Pre-trained Transformer)는 네이버 클라우드(Naver Cloud Platform)에서 개발한 한국어 특화 대규모 언어 모델(Large Language Model, LLM)입니다. 이 모델은 방대한 양의 한국어 텍스트 데이터를 기반으로 사전 학습(Pre-training)되어 자연어 이해…
Supervised Fine-tuning (지도 미세 조정) Supervised Fine-tuning(SFT, 지도 미세 조정)은 대규모 언어 모델(Large Language Model, LLM)이나 다른 딥러닝 모델을 특정 작업이나 도메인에 맞게 전문화시키기 위해, 레이블이 지정된 데이터셋을 사용하여 사전 학습된 모델의 가중치를 추가로 학습시키는 과정입니…
서브워드 (Subword) 서브워드(Subword)는 자연어 처리(Natural Language Processing, NLP) 분야에서 단어(Word)와 문자(Character)의 중간 단계에 해당하는 어휘 단위(Vocabulary Unit)를 의미합니다. 기존 단어 기반 토큰화(Tokenization) 방식이 가진 한계, 특히 희귀어 처리 문제와 어휘 사…
혼합 전문가 모델 (Mixture of Experts, MoE) 개요 혼합 전문가 모델(Mixture of Experts, 줄여서 MoE)은 대규모 언어 모델(LLM) 및 딥러닝 아키텍처에서 사용되는 효율적인 신경망 설계 패턴입니다. MoE의 핵심 아이디어는 단일 거대한 모델 대신, 여러 개의 작은 '전문가(Expert)' 네트워크를 준비하고, 입력 데이터…
환각 (환각 현상) 환각(幻覺, 영어: Hallucination)은 생성형 인공지능(Generative AI), 특히 대규모 언어 모델(Large Language Models, LLMs)이 사실과 다르거나 존재하지 않는 정보를 사실인 것처럼 생성해 내는 현상을 의미합니다. 이는 인공지능의 신뢰성을 해치는 주요한 결함 중 하나로, 모델이 학습 데이터에 기반하…
머신러닝(Machine Learning) 머신러닝은 명시적인 프로그래밍 없이 컴퓨터가 데이터를 통해 스스로 학습하고 패턴을 인식하여 예측 또는 결정을 내리는 인공지능(AI)의 핵심 하위 분야입니다. 머신러닝의 개요와 정의 머신러닝은 아서 사무엘(Arthur Samuel)이 1959년 "컴퓨터가 특정 작업을 수행하기 위해 명시적인 명령어 없이 학습할 수 있는…
환각 (Hallucination) 환각(Hallucination, 줄여서 Hallu)은 인공지능, 특히 대규모 언어 모델(LLM)이 사실과 다르거나 존재하지 않는 정보를 확신에 차서 생성하는 현상을 의미합니다. 이는 인공지능의 신뢰성을 해치는 주요 장애물 중 하나로, 모델이 학습 데이터에 없는 사실을 마치 사실인 것처럼 지어내거나(Hallucination)…
토큰 (Token) 토큰(Token)은 컴퓨팅 및 언어 처리 분야에서 원시 데이터 스트림을 의미 있는 최소 단위인 '토큰'으로 분할하는 과정을 지칭합니다. 이는 주로 프로그래밍 언어의 컴파일 과정인 렉싱(Lexing)이나 자연어 처리(NLP)의 전처리 단계에서 핵심적인 역할을 수행합니다. 토큰은 문맥에 따라 문자, 단어, 구절, 또는 특수 기호 등 다양한 …
LAMB (Layer-wise Adaptive Moments optimizer for Batch normalization) LAMB(Layer-wise Adaptive Moments optimizer for Batch normalization)는 대규모 배치 학습(Batch Training) 환경에서 효율적으로 딥러닝 모델을 최적화하기 위해 설계된 적응형 …
리버스 엔지니어링 리버스 엔지니어링(Reverse Engineering)은 완성된 제품이나 소프트웨어의 구조, 동작 원리, 설계 정보를 분석하여 그 내부 논리를 역으로 파악하는 분석 및 이해 과정입니다. 이를 통해 얻은 지식을 바탕으로 새로운 개발, 유지보수, 보안 분석, 호환성 확보 등에 활용됩니다. 리버스 엔지니어링의 개요와 정의 리버스 엔지니어링은 일…
Adapter 모듈 개요 Adapter 모듈(Adapter Module)은 사전 학습된 대규모 인공지능 모델(Transformer, Vision Transformer 등)에 경량의 trainable 레이어를 삽입하여 파라미터 효율적 미세 조정(Parameter-Efficient Fine-Tuning, PEFT)을 가능하게 하는 구조입니다. 대규모 언어 모델…
Zero-Shot 분류 개요 Zero-shot 분류(Zero-Shot Classification, ZSC)는 머신러닝 및 인공지능 분야에서 훈련 데이터에 포함되지 않은 새로운 클래스를 식별하고 범주화하는 기술입니다. 기존 지도 학습이 레이블이 명시된 데이터를 통해 모델을 최적화하는 것과 달리, zero-shot 분류는 모델이 테스트 시점에 처음 접하는 미지…
NLTK (Natural Language Toolkit) 개요 NLTK(Natural Language Toolkit)는 파이썬(Python) 기반의 자연어 처리(NLP, Natural Language Processing) 오픈소스 라이브러리입니다. 2001년 미국 펜실베이니아 대학교에서 개발되어 공개되었으며, 인간 언어 데이터를 분석·처리하기 위한 알고리즘…
사전 학습 (Pre-training) 개요 사전 학습(Pre-training)은 인공지능, 특히 딥러닝 모델 개발 파이프라인에서 가장 초기이자 핵심적인 단계로, 방대한 양의 일반 데이터셋을 활용하여 모델이 세계에 대한 기본적인 지식과 패턴을 학습시키는 과정입니다. 이 단계에서 훈련된 모델은 특정 작업에 최적화되지 않은 '기반 모델(Foundation Mod…
NVLink 개요 NVLink는 엔비디아(NVIDIA)가 개발한 고속 스케일러블 프로세서 간 인터커넥트 기술로, 주로 GPU와 GPU 간, 또는 GPU와 CPU 간의 고대역폭·저지연 데이터 전송을 위해 설계되었습니다. 기존의 PCIe(Peripheral Component Interconnect Express) 인터페이스에 비해 훨씬 높은 대역폭과 효율성을 …
ELMo 개요 ELMo(Embeddings from Language Models)는 자연어처리(NLP) 분야에서 획기적인 성과를 이룬 문맥 기반 단어 임베딩(contextualized word embedding) 기술 중 하나로, 2018년 앨리슨 패리스키(Allison Parrish)와 마일스 루트(Miles Luft) 등이 아닌 앨런 AI 연구소(All…
딥러닝 기반 방법 개요 딥러닝 기반 방법은 머신러닝의 한 분야로, 인공신경망(Artificial Neural Networks, ANN)의 다층 구조를 활용하여 데이터에서 복잡한 패턴과 특징을 자동으로 학습하는 기술입니다. 특히 깊은 네트워크 구조(즉, 여러 개의 은닉층을 가진 구조)를 사용함으로써 기존의 머신러닝 기법들이 해결하기 어려웠던 고차원 데이터 문…
GPT-3.5 개요 GPT-3.5는 OpenAI에서 개발한 대규모 언어 모델(Large Language Model, LLM)로, GPT-3 이후의 개선 버전에 해당하는 모델군을 지칭합니다. 정식 명칭은 공개되지 않았으나, OpenAI의 API 및 제품에서 사용되는 모델 중 하나로, 특히 ChatGPT의 초기 버전에 기반을 두고 있습니다. GPT-3.5는 자…
의도 파악 의도 파악(Intent Detection)은 자연어처리(Natural Language Processing, NLP)의 핵심 기술 중 하나로, 사용자가 자연어로 입력한 문장이나 발화에서 사용자의 목적 또는 행동 의도를 추론하고 분류하는 작업을 말합니다. 이 기술은 챗봇, 음성 비서, 고객 서비스 자동화 시스템 등 다양한 인공지능 기반 애플리케이션에…