# Linear-chain CRF ## 개요 **Linear-chain Conditional Random Field**(선형 체인 조건부 확률장, 이하 Linear-chain CRF)는 자연어처리(NLP) 분야에서 널리 사용되는 **시퀀스 레이블링**(sequence labeling)을 위한 확률적 그래피컬 모델이다. 주로 형태소 분석, 개체명 인식(N...
검색 결과
"장거리 의존성 포착"에 대한 검색 결과 (총 5개)
# 트랜스포머 ## 개요 **트랜스포머**(Transformer는 2017년 구과 유니버시티 오브 토론토 연구진이 발표한 논문 *"Attention is All You Need"*에서안된 딥러닝 기반의 **시퀀스-투-시퀀스**(sequence-to-sequence) 신경망 아키텍처입니다. 이 모델은 순환 신경망(RNN)이나 합성곱 신경망(CNN)과 달리...
# Paragraph2Vec ## 개요 **Paragraph2Vec**(또는 **Doc2Vec**)은 자연어처리(NLP) 분야에서 문서(Document) 또는 문단(Paragraph)을 고정된 차원의 밀집 벡터(Dense Vector)로 표현하는 기술입니다. 이 기술은 단어 수준의 표현 학습인 **Word2Vec**의 확장판으로, 단어가 아닌 더 큰 텍...
# Vision Transformer ## 개요 **Vision Transformer**(ViT)는 전통적으로 이미지 인 작업에서 지배적인 위치를 차지해온합성곱 신망**(CNN)과는 다른 접근 방식을 제시한 획기적인 인공지능 모델이다. 2020년 Research 팀이 발표한 논문 *"An Image is Worth 16x16 Words: Transfor...
# 스킵-그램 (-gram) ## 개요 스킵-그램(Skip-gram)은 자연어 처리(Natural Language Processing, NLP) 분야에서 널리 사용되는어 모델링 기법으로 **워드 임베딩**(Word Embedding) 생성하는 데 핵심적인 역할을 한다. 스킵-그램은 2013년 토마스 미코로프(Tomas Mikolov)와 구글 연구팀이 제...