# Self-Attention Self-Attention은 자연어처리(NLP) 분야에서 핵심적인 역할을 하는 **자기 주의 메커니즘**(Self-Attention Mechanism)으로, 입력 시퀀스 내 각 위치의 단어(또는 토큰)가 다른 위치의 단어들과의 관계를 동적으로 파악하여 문맥 정보를 효과적으로 포착하는 기법입니다. 이 메커니즘은 트랜스포머(Tr...
검색 결과
검색어를 입력하세요.
# Positional Encoding ## 개요 **Positional Encoding**(치 인코딩)은 자연 처리(NLP)야에서 사용되는 인지능 모델, 특히 **트랜스포머**(Transformer) 아키텍처에서 핵심적인 구성 요소 중입니다. 트랜포머는 순환 신경망(RNN)이나 컨볼루션 신경망(CNN)과 달리 시퀀스 데이터의 순서 정보를 내재적으로 처...