# 사전 학습 (Pre-training) **사전 학습**(Pre-training)은 머신러닝, 특히 딥러닝 분야에서 방대한 양의 데이터로부터 모델의 초기 가중치(Weight)와 편향(Bias)을 학습하는 과정을 의미합니다. 이는 주로 **전이 학습**(Transfer Learning)의 핵심 단계로 활용되며, 특정 태스크(Task)에 대한 미세 조정(F...
검색 결과
"다운스트림 태스크"에 대한 검색 결과 (총 3개)
# ELECTRA ## 개요 **ELECTRA**(Efficiently Learning an Encoder that Classifies Token Replacements Accurately)는 2020년 구글 리서치(Google Research) 팀이 제안한 자연어 처리(NLP) 기반 사전 학습(pre-training) 방법론입니다. 기존 BERT 모델에...
# 단어 임딩 단어 임베딩(Wordding)은 자연어 처리(N Language Processing, NLP) 분야에서어의 의미를 컴퓨터가 이해할 수 있도록 수치화하는심 기술 중입니다. 이 기술은 단를 고차원수 벡터로 표현함으로써, 단어 간의 의미적 유사성, 문맥적 관계, 문법적 특성 등을 효과적으로 포착할 수 있게 해줍니다. 현대 인공지능 기반 언어 모델...