# 서브워드 (Subword) **서브워드(Subword)**는 자연어 처리(Natural Language Processing, NLP) 분야에서 단어(Word)와 문자(Character)의 중간 단계에 해당하는 어휘 단위(Vocabulary Unit)를 의미합니다. 기존 단어 기반 토큰화(Tokenization) 방식이 가진 한계, 특히 희귀어 처리 문...
검색 결과
"Unigram"에 대한 검색 결과 (총 9개)
# 토큰 (Token) **토큰(Token)**은 컴퓨팅 및 언어 처리 분야에서 원시 데이터 스트림을 의미 있는 최소 단위인 '토큰'으로 분할하는 과정을 지칭합니다. 이는 주로 프로그래밍 언어의 컴파일 과정인 **렉싱(Lexing)**이나 자연어 처리(NLP)의 전처리 단계에서 핵심적인 역할을 수행합니다. 토큰은 문맥에 따라 문자, 단어, 구절, 또는 특...
# N-gram **N-gram**(엔그램)은 자연어 처리(Natural Language Processing, NLP) 및 통계적 언어 모델링에서 사용되는 연속된 단어(또는 문자)의 시퀀스입니다. 여기서 'N'은 시퀀스의 길이를 나타내는 정수 변수로, N=1일 때는 **유니그램(Unigram)**, N=2일 때는 **바이그램(Bigram)**, N=3일 ...
# SentencePiece ## 개요 **SentencePiece**는 구글이 개발한 오픈소스 자연어 처리(NLP) 라이브러리로, 언어 모델링 및 기계 번역 작업에서 사용되는 **서브워드 토크나이제이션**(subword tokenization) 기법을 구현하는 도구입니다. 기존의 단어 기반 또는 문자 기반 토크나이제이션 방식의 한계를 극복하기 위해 설...
# N-그램## 개요 **N-그램**(N-gram)은어처리(Natural Language Processing, NLP) 분야에서 언어 모델(Language Modeling)에리 사용되는 기초적인 통계적 기법이다. N-램은 연속 N개의 아이템(item)으로 구성된 부분열을 의미하며, 언어 처리에서는 주로 연속된 N개 단어(word) 또는 음소(phoneme...
# Vocabulary Augmentation 개요 **Vocabulary Augmentation어휘 증강)은 자연어(Natural Language Processing, N) 분야에서 언어 모델의 성능 향상을 위해 기존 어휘 집합(vocabulary)을 확장하거나 보완하는 기술을 의미합니다. 특히, 기계 번역, 텍스트 생성, 감성 분석, 질의 응답 시...
# 어휘 크기 ## 개요 **어휘 크기**(ocabulary Size)는 자연어처리(NLP, Natural Language Processing) 모델 설계에서 중요한 하이퍼파라미터 중 하나로, 모델이 인식하고 처리할 수 있는 고유 단어(또는 서브워드 토큰)의 총 수를 의미합니다. 어휘 크기는 언어 모델의 표현 능력, 메모리 사용량, 학습 및 추론 속도,...
# Byte Pair Encoding **Byte Pair Encoding**(BPE, 바이 쌍 인코딩)은 자연 처리(NLP) 분야에서 널리 사용되는 하위 단어(Subword) 토큰화 기법 중 하나로, 언어 어휘를 고정된 크기의 어휘 집합(Vocabulary)으로 효율적으로 압축하고, 미등록 단어(Out-of-Vocabulary, OOV) 문제를 완화하는...
# n-그램 모델## 개요 **n-그램 모델**(n-gram model)은 자연어 처리(Natural Language Processing NLP) 분에서 언어의 확률적 구조를 모링하기 위해 널리 사용되는 통계 기반 언어 모델이다. 이 모델은 주어진 단어 시퀀스에서 다음 단어가 등장할 확률을 이전의 *n-1*개 단어를 기반으로 예측하는 방식을 취한다. n-...