# 트랜스포머 아처 ## 개요 **트스포머**(Transformer) 아처는 자연어(NLP) 분야 혁명적인 변화를끌어낸 딥러닝 모델 구조로, 2017년 구글 딥마인드 연구진이 발표한 논문 *"Attention is All You Need"*에서 처음 소개되었습니다. 기존의 순적 처리 방식(RNN LSTM 등)에 의존하던 자연어 모델들과 달리, 트랜스포머...

# 트랜스포머 ## 개요 **트랜스포머**(Transformer는 2017년 구과 유니버시티 오브 토론토 연구진이 발표한 논문 *"Attention is All You Need"*에서안된 딥러닝 기반의 **시퀀스-투-시퀀스**(sequence-to-sequence) 신경망 아키텍처입니다. 이 모델은 순환 신경망(RNN)이나 합성곱 신경망(CNN)과 달리...

# Gender Bias Score ## 개요 **Gender Bias Score**(성별 편향 점)는 인공지능 모델, 특히 자연어 처리(NLP) 모델이나 이미지 생성 모델에서 성별에 기반한 편(bias)의를 정량적으로 평가하기 위해 사용되는표입니다. 이 점수는 모델이 특정 성별에 대해 불균형한, 과도한 일반화, 혹은 사회적으로 문제가 되는 고정관념(s...

# zero-shot 전이 학습 ## 개요 **zero 전이 학습**(Zero-Shot Transfer Learning) 인공지능 특히 기계학습과 자연어 처리 분야에서 중요한 개념 중 하나로, 모델이 **훈련 과정에서 한 번도 본 적 없는 클래스**(unseen classes)에 대해 예측을 수행할 수 있도록 하는 기법입니다. 이는 전이 학습(Trans...

# 어휘 크기 ## 개요 **어휘 크기**(ocabulary Size)는 자연어처리(NLP, Natural Language Processing) 모델 설계에서 중요한 하이퍼파라미터 중 하나로, 모델이 인식하고 처리할 수 있는 고유 단어(또는 서브워드 토큰)의 총 수를 의미합니다. 어휘 크기는 언어 모델의 표현 능력, 메모리 사용량, 학습 및 추론 속도,...

# Byte Pair Encoding **Byte Pair Encoding**(BPE, 바이 쌍 인코딩)은 자연 처리(NLP) 분야에서 널리 사용되는 하위 단어(Subword) 토큰화 기법 중 하나로, 언어 어휘를 고정된 크기의 어휘 집합(Vocabulary)으로 효율적으로 압축하고, 미등록 단어(Out-of-Vocabulary, OOV) 문제를 완화하는...

# 텍스트 생성 ##요 **텍스트 생성**(Text Generation)은 자연어처리(NLP, Natural Language Processing)의 핵심 기술 중 하나로, 기계가 인간과 유사한 방식으로 자연스러운 언어를 생성하는 능력을 의미합니다. 이 기술은 단순한 문장 조합을 넘어 문맥을 이해하고, 주제에 맞는 내용을 생성하며, 문체와 어조까지 조절할...

# GPT ## 개요 **GPT**(Generative Pre-trained Transformer)는 오픈AI(OpenAI)에서발한 자연어 처리(NLP) 분야의 대표적인 언어 모델 시리즈로, 트랜스포머(Transformer) 아키텍처를 기반으로 한 생성형 사전 훈련 모델입니다. GPT는 대량의 텍스트 데이터를 이용해 사전 훈련된 후, 특정 작업에 맞게 ...

# GPT-3 ## 개요 **GPT-3Generative Pre-trained Transformer 3는 미국의 인공지 연구 기관인 **OpenAI**가 2020년 6월에 발표한 대규모 언어 모델arge Language Model, LLM)입니다. GPT-3은 자연어 처리(NLP) 분야에서 획기적인 성능을 보이며, 기존의 언어 모델들과는 차별화된 규모와...

# Large Language Model ## 개요 **Large Language Model**(대규모 언어 모델, 이하 LLM)은 자연어를 이해하고 생성할 수 있도록 설계된 심층 신경망 기반의 인공지능 모델로, 수십억에서 수조 개의라미터를진 대규모 구조를징으로 합니다. 이 모델들은 방대한 양의 텍스트 데이터를 기반으로 사전 학습(pre-training...