# CBOW (Continuous Bag‑of‑Words) 모델 ## 개요 CBOW(Continuous Bag‑of‑Words)는 **워드 임베딩(word embedding)**을 학습하기 위한 대표적인 신경망 모델 중 하나이며, **Word2Vec** 프레임워크에서 제시된 두 가지 기본 아키텍처(다른 하나는 Skip‑gram) 중 첫 번째 모델이다. ...
검색 결과
"교차 엔트로피 손실"에 대한 검색 결과 (총 9개)
# 손실 함수 ## 개요 머신러닝·딥러닝 모델은 **입력 데이터**와 **정답(라벨)** 사이의 차이를 최소화하도록 학습한다. 이 차이를 수치적으로 표현한 것이 **손실 함수(Loss Function)**이다. 손실 함수는 모델이 현재 얼마나 잘 예측하고 있는지를 정량화하고, 최적화 알고리즘(예: 경사하강법)이 **파라미터를 업데이트**하는 기준이...
# 딥러닝 기반 방법 ## 개요 딥러닝 기반 방법은 머신러닝의 한 분야로, 인공신경망(Artificial Neural Networks, ANN)의 다층 구조를 활용하여 데이터에서 복잡한 패턴과 특징을 자동으로 학습하는 기술입니다. 특히 깊은 네트워크 구조(즉, 여러 개의 은닉층을 가진 구조)를 사용함으로써 기존의 머신러닝 기법들이 해결하기 어려웠던 고차...
# 다중 클래스 분류 ## 개요 다중 클래스 분류(Multiclass Classification)는 머신러닝 및 데이터 과학 분야에서 중요한 분석 기법 중 하나로, 주어진 입력 데이터를 **세 개 이상의 서로 독립적인 클래스**(카테고리)로 분류하는 작업을 말합니다. 이는 이진 분류(Binary Classification)의 일반화된 형태이며, 현실 세...
# 감독 학습 ## 개요 **감독 학습**(Supervised Learning)은 인공지능, 특히 머신러닝 분야에서 가장 기초적이고 널리 사용되는 학습 방식 중 하나입니다. 이 방법은 입력 데이터와 그에 대응하는 정답(레이블)이 쌍으로 주어진 상태에서 모델이 입력과 출력 사이의 관계를 학습함으로써 새로운 입력에 대한 정확한 출력을 예측할 수 있도록 합니...
# 검증 오차 ## 개요 **검증 오차**(Validation Error)는 기계학습 및 통계 모델링에서 모델의 성능을 평가하기 위해 사용되는 중요한 지표 중 하나입니다. 이는 학습된 모델이 훈련 데이터 외의 새로운 데이터를 얼마나 잘 일반화(generalization)하는지를 측정하는 데 사용됩니다. 검증 오차는 모델의 과적합(overfitting) ...
# Hierarchical Intent Classification ## 개요 계층적 의도 분류(Hierarchical Intent Classification,하 HIC)는 자연어처리LP) 분야에서 사용자 입력의 의미적 의도를 다단계 구조로 분류하는 기입니다. 전통 평면형 의도 분류(flat intent classification)가 모든 의도를 동일한 ...
# 모델 훈련 ## 개요 모델 훈련(Model)은 머신닝(Machine Learning) 핵심 과정, 주어진 데이터를 기반으로 모델이 특정 작업을 수행할 수 있도록 학습시키는 절차를 의미합니다. 이 과정에서 알고리즘은 입력 데이터와 정답(라벨) 사이의 관계를 학습하여, 새로운 데이터에 대해 정확한 예측이나 판단을 내릴 수 있는 능력을 획득하게 됩니다. ...
# Masked Language Modeling ## 개요 Masked Language Modeling(MLM)은 자연어 처리(NLP) 분야에서 사용되는 자기지도 학습(Self-Supervised Learning) 기법으로, 언어 모델을 사전 훈련(Pre-Training)하는 데 핵심적인 역할을 합니다. 이 기법은 입력 텍스트의 일부 토큰을 무작위로 마스...