Masked Language Model 요 Masked Language Model(MLM, 마스크된 언어 모델)은 자연어 처리(NLP) 분야에서 대표적인 언어 모델링 기법 중 하나로, 입력 문장의 일부 단어를 임의로 "마스킹"하여, 모델이 해당 위치의 원래 단어를 예측하도록 학습하는 방식이다. 이 기법은 주로 BERT(Bidirectional Encoder…
검색 결과
"UniLM"에 대한 검색 결과 (총 2개)
BART 요 BART(Bidirectional and Autogressive Transformer)는 자연어처리LP) 분야에서 널리되는 사전 훈련된 언어 모델 중 하나로, 2019년 페이스 AI 리서치(Facebook AI Research FAIR)에서 제안. BART는 기존의 BERT와 GPT의 장점을 결합한 하이브리드 구조를 특징으로 하며, 다양한 자연…