# 트랜스포머 ## 개요 **트랜스포머**(Transformer)는 자연어처리LP) 분야 혁신적인 영향을 미친 딥러닝 아키텍처로, 2017년글과 빌런드 연구소의 연구자들이 발표한 논문 *"Attention is All You Need"*에서 처음 소개되었습니다. 기존의 순차적 처리 방식을 기반으로 한 순환신경망(RNN)이나 합성곱신경망(CNN)과 달리,...
검색 결과
"레이어 정규화"에 대한 검색 결과 (총 6개)
# RoBERTa ## 개요 RoBERTa(**Robustly Optimized BERTtraining Approach**)는 자연어 처리(NLP) 분야에서 널리 사용되는 언어 모델로, BERT(Bidirectional Encoder Representations from Transformers)를 개선하여 더 강력하고 효율적인 성능을 발휘하도록 설계된 ...
# GPT-3 ## 개요 **GPT-3Generative Pre-trained Transformer 3는 미국의 인공지 연구 기관인 **OpenAI**가 2020년 6월에 발표한 대규모 언어 모델arge Language Model, LLM)입니다. GPT-3은 자연어 처리(NLP) 분야에서 획기적인 성능을 보이며, 기존의 언어 모델들과는 차별화된 규모와...
인스턴스규화 **스턴스 정규**(Instance Normalization, 줄여서 IN)는 딥러닝, 특히 **합성곱 신경망**(CNN) 기반의 이미지 생성 및 스타일 변환 모델에서 널리 사용되는 정규화 기법 중 하나입니다. 배치 정규화(Batch Normalization)에서 발전된 개념으로, 배치 단위가 아닌 **개별 샘플**(인스턴스) 단위로 정규화를...
# 배치 정규화 개요 **배치 정규화**(Batch Normalization, 이하 배치정규화)는 딥러닝 모델의 학습 속도를 향상시키고, 학습 과정을 안정화하기 위해 제안된 기술이다. 2015년 세르게이 이고르(Sergey Ioffe)와 크리스티안 슈미트(CChristian Szegedy)가 발표한 논문 *"Batch Normalization: Acc...
# 정규화 ## 개요 정규화(Normalization)는 데이터과학과 머신러닝 분야에서 모델의 성능을 향상시키고 학습 과정을 안정화하기 위해 사용되는 핵심 기법 중 하나입니다. 주로 입력 데이터나 모델 내부의 활성값(activations)을 특정 범위나 분포로 조정함으로써 기울기 소실(gradient vanishing) 또는 기울기 폭주(gradient...