모델 다양성 (Model Diversity) 1. 개요 모델 다양성(Model Diversity)이란 [[앙상블 학습]](Ensemble Learning) 시스템 내에서 결합되는 개별 학습 모델들이 서로 다른 예측 패턴을 가지거나, 서로 다른 종류의 오류를 범하는 정도를 의미한다. 앙상블 학습은 여러 개의 [[약한 학습기]](Weak Learner)를 결합…

그레이디언트 부스팅 (Gradient Boosting) 개요 그레이디언트 부스팅(Gradient Boosting)은 머신러닝 분야에서 널리 사용되는 강력한 앙상블 학습(Ensemble Learning) 알고리즘 중 하나입니다. 이 기법은 약한 학습기(Weak Learner), 주로 결정 트리(Decision Tree)를 순차적으로 학습시켜 하나의 강력한 예…

XGBoost 개요 XGBoost(Extreme Gradient Boosting)는 효율적이고 확장 가능한 그래디언트 부스팅 라이브러리로, Tianqi Chen과 공동 연구진에 의해 2014년 공개되었습니다. 데이터 과학 경진대회(Kaggle 등)와 산업 현장 모두에서 높은 예측 성능과 학습 속도로 널리 사용되고 있으며, 현재까지 머신러닝 생태계에서 가장 …

LightGBM LightGBM은 마이크로소프트에서 개발한 고성능의 경량 그래디언트 부스팅 프레임워크로, 대규모 데이터셋에서도 빠르고 효율적인 학습을 가능하게 하는 머신러닝 알고리즘입니다. 특히 분류, 회귀, 순위 예측 등 다양한 머신러닝 과제에서 뛰어난 성능을 보이며, XGBoost, CatBoost 등과 함께 대표적인 그래디언트 부스팅 트리(Gradie…

LightGBM GBM은 마이크로소프트에서 개발한성능의 경량 그래디언트 부스팅 프레임워크로, 대규모 데이터셋을 빠르고 효율적으로 처리할 수 있도록 설계된 지도 학습 알고리즘. 특히 분류, 회귀, 순위 예 등의 머신러 태스크에서 뛰어난 성능을 보이며, XGBoost, CatBoost와 함께 대표적인 그래디언트 부스팅 트리(Gradient Boosting De…

그래디언트 부스 회귀 개요 그래디언트 부스팅 회(Gradient Boosting Regression)는 머신러닝에서 회귀(regression) 문제를 해결하기 위해 사용되는 강력한 앙상블 학습 기법입니다. 이은 여러 개의 약한 학습기(weak learners), 주로 결정 트리(decision tree)를 순차적으로 결합하여 강한 예측 모델을 구성합니다. …