# XGBoost ## 개요 **XGBoost**(Extreme Gradient Boosting)는 효율적이고 확장 가능한 그래디언트 부스팅 라이브러리로, Tianqi Chen과 공동 연구진에 의해 2014년 공개되었습니다. 데이터 과학 경진대회(Kaggle 등)와 산업 현장 모두에서 높은 예측 성능과 학습 속도로 널리 사용되고 있으며, 현재까지 머신러닝...
검색 결과
"파라미터 업데이트"에 대한 검색 결과 (총 6개)
# 손실 함수 ## 개요 머신러닝·딥러닝 모델은 **입력 데이터**와 **정답(라벨)** 사이의 차이를 최소화하도록 학습한다. 이 차이를 수치적으로 표현한 것이 **손실 함수(Loss Function)**이다. 손실 함수는 모델이 현재 얼마나 잘 예측하고 있는지를 정량화하고, 최적화 알고리즘(예: 경사하강법)이 **파라미터를 업데이트**하는 기준이...
# 확률적 경사 하강법 ## 개요 **확적 경사 하강**(Stochastic Gradientcent, 이하 SGD은 머신러닝 데이터과학 분야에서 널리 사용되는 최적화 알고리즘 중 하나로, 손실(Loss Function)를 최화하기 위해 모델의 파라미터 반복적으로 업데이트하는 방법입니다. 특히 대규모 데이터셋을 처리할 때 전통적인 경사 하강법(Batch ...
# Masked Language Modeling ## 개요 Masked Language Modeling(MLM)은 자연어 처리(NLP) 분야에서 사용되는 자기지도 학습(Self-Supervised Learning) 기법으로, 언어 모델을 사전 훈련(Pre-Training)하는 데 핵심적인 역할을 합니다. 이 기법은 입력 텍스트의 일부 토큰을 무작위로 마스...
```markdown # GAN (Generative Adversarial Network) ## 개요 GAN(Generative Adversarial Network)은 2014년 Ian Goodfellow 등에 의해 제안된 딥러닝 모델로, 생성자(Generator)와 판별자(Discriminator)의 경쟁적 학습을 통해 데이터를 생성합니다. 주로 이미지...
# 미니 배치 경사 하강법 ## 개요 미니 배치 경사 하강법(Mini-Batch Gradient Descent)은 기계 학습에서 파라미터 최적화를 위한 주요 알고리즘 중 하나로, **배치 경사 하강법(Batch Gradient Descent)**과 **스토캐스틱 경사 하강법(Stochastic Gradient Descent)**의 중간 형태이다. 이 방법...