XSum
XSum (Extreme Summarization) XSum은 자연어 처리(NLP), 특히 텍스트 요약(Text Summarization) 분야에서 널리 사용되는 대규모 엔드투엔드(End-to-End) 요약 벤치마크 데이터셋입니다. 2018년 옥스퍼드 대학의 NLP 연…
문서 목록 자연어처리
총 200개 · 5/10 페이지서브워드
서브워드 (Subword) 서브워드(Subword)는 자연어 처리(Natural Language Processing, NLP) 분야에서 단어(Word)와 문자(Character)의 중간 단계에 해당하는 어휘 단위(Vocabulary Unit)를 의미합니다. 기존 단어 …
n-gram
N-gram N-gram(엔그램)은 자연어 처리(Natural Language Processing, NLP) 및 통계적 언어 모델링에서 사용되는 연속된 단어(또는 문자)의 시퀀스입니다. 여기서 'N'은 시퀀스의 길이를 나타내는 정수 변수로, N=1일 때는 유니그램(Un…
NLTK
NLTK (Natural Language Toolkit) 개요 NLTK(Natural Language Toolkit)는 파이썬(Python) 기반의 자연어 처리(NLP, Natural Language Processing) 오픈소스 라이브러리입니다. 2001년 미국 펜실…
Out-of-Vocabulary
Out-of-Vocabulary 개요 자연어처리(Natural Language Processing, NLP) 분야에서 Out-of-Vocabulary(OoV)는 모델이 학습 과정에서 접하지 못한 단어를 의미합니다. 이는 텍스트 데이터를 처리하는 시스템이 사전에 정의된 …
Levenshtein Distance
Levenshtein Distance 개요 레벤슈타인 거리(Levenshtein Distance)는 두 문자열 간의 유사도를 측정하는 데 사용되는 편집 거리(Edit Distance)의 한 형태로, 한 문자열을 다른 문자열로 변환하는 데 필요한 최소한의 편집 연산 횟수…
ELMo
ELMo 개요 ELMo(Embeddings from Language Models)는 자연어처리(NLP) 분야에서 획기적인 성과를 이룬 문맥 기반 단어 임베딩(contextualized word embedding) 기술 중 하나로, 2018년 앨리슨 패리스키(Alliso…
BERT
BERT 개요 BERT(Bidirectional Encoder Representations from Transformers)는 자연어 처리(NLP) 분야에서 혁신적인 영향을 미친 언어 모델로, 2018년 구글(Google) 연구팀에 의해 개발되었습니다. BERT는 기존…
Dialogflow
Dialogflow 개요 Dialogflow(구 API.AI)는 구글 클라우드에서 제공하는 자연어 이해(NLU) 기반 대화형 인터페이스 구축 플랫폼이다. 사용자는 텍스트 혹은 음성 입력을 통해 인텐트(intent)와 엔티티(entity)를 정의하고, 이를 바탕으로 챗봇…
CNN/Daily Mail
CNN/Daily Mail 개요 CNN/Daily Mail(줄여서 C/D M)은 자연어 처리(NLP) 분야에서 추상적 요약(abstractive summarization) 및 추출적 요약(extractive summarization) 모델을 평가하기 위해 널리 사용되는…
규칙 기반 방법
규칙 기반 방법 자연어처리(Natural Language Processing, NLP)는 인간의 언어를 컴퓨터가 이해하고 분석할 수 있도록 하는 기술 분야이다. 이 과정에서 언어 데이터를 분석하기 전에 정제하고 구조화하는 단계인 전처리(preprocessing)는 매우…
기계학습 기반 방법
기계학습 기반 방법 개요 기계학습 기반 방법(Machine Learning-based Approach)은 자연어처리(Natural Language Processing, NLP) 분야에서 언어 데이터의 패턴을 자동으로 학습하고 이를 기반으로 다양한 언어 과제를 수행하는 …
맥락 의존성
맥락 의존성 개요 맥락 의존성(Context Dependency)은 자연어처리(Natural Language Processing, NLP) 분야에서 언어의 의미가 단어나 문장 자체보다는 그 주변의 언어적 또는 비언어적 맥락에 따라 달라질 수 있다는 개념을 의미한다. 인…
동시출현 행렬
동시출현 행렬 개요 동시출현 행렬(Co-occurrence Matrix)은 자연어처리(NLP) 분야에서 언어의 통계적 구조를 분석하고 단어 간의 의미적 관계를 모델링하는 데 사용되는 중요한 데이터 구조입니다. 이 행렬은 특정한 문맥 내에서 두 단어가 함께 등장하는 빈도…
의도 파악
의도 파악 의도 파악(Intent Detection)은 자연어처리(Natural Language Processing, NLP)의 핵심 기술 중 하나로, 사용자가 자연어로 입력한 문장이나 발화에서 사용자의 목적 또는 행동 의도를 추론하고 분류하는 작업을 말합니다. 이 기…
Sennrich et al. (2016)
Sennrich et al. (2016) 개요 Sennrich et al. (2016)은 자연어처리, 특히 기계 번역(Machine Translation, MT) 분야에서 중요한 전환점을 마련한 논문으로, 백워드 번역(Back-Translation)과 서브워드 유닛(S…
BERT-Base
BERT-Base BERT-Base는 자연어 처리(NLP) 분야에서 혁신적인 전환을 가져온 Bidirectional Encoder Representations from Transformers(BERT) 모델의 기본 버전 중 하나로, 구글 연구팀에 의해 2018년에 발표…
Sentence-BERT
Sentence-BERT 개요 Sentence-BERT(SBERT)는 문장 단위의 의미를 고정된 차원의 벡터(임베딩)로 효과적으로 표현하기 위해 개발된 자연어처리(NLP) 모델이다. 기존의 BERT 모델은 토큰 단위의 표현 능력은 뛰어나지만, 문장 전체의 의미를 하나의…
개체명 인식
개체명 인식 개요 개체명 인식(Named Entity Recognition, 이하 NER)은 자연어 처리(Natural Language Processing, NLP) 분야의 핵심 기술 중 하나로, 텍스트 내에 등장하는 특정 유형의 명명된 실체(named entities…
트랜스포머 기반 모델
트랜스포머 기반 모델 개요 트랜스포머 기반 모델(Transformer-based model)은 자연어처리(NLP) 분야에서 혁신적인 전환을 이끈 딥러닝 아키텍처로, 2017년 구글의 연구팀이 발표한 논문 "Attention Is All You Need"에서 처음 제안되…