BERT 개요 BERT(Bidirectional Encoder Represent from Transformers)는어 처리(NLP)야에서 혁신적인과를 이룬러닝 기반 언어 모델로, 구글(Google) 연구팀이 2018년에 발표한 머신러닝 모델이다. BERT는 이전의 단방향 언어 모델들과 달리 양방향 컨텍스트(Bidirectional Context)를 활용하여…
검색 결과
"양방향 컨텍스트"에 대한 검색 결과 (총 2개)
Masked Language Model 요 Masked Language Model(MLM, 마스크된 언어 모델)은 자연어 처리(NLP) 분야에서 대표적인 언어 모델링 기법 중 하나로, 입력 문장의 일부 단어를 임의로 "마스킹"하여, 모델이 해당 위치의 원래 단어를 예측하도록 학습하는 방식이다. 이 기법은 주로 BERT(Bidirectional Encoder…