모델 다양성 (Model Diversity) 1. 개요 모델 다양성(Model Diversity)이란 [[앙상블 학습]](Ensemble Learning) 시스템 내에서 결합되는 개별 학습 모델들이 서로 다른 예측 패턴을 가지거나, 서로 다른 종류의 오류를 범하는 정도를 의미한다. 앙상블 학습은 여러 개의 [[약한 학습기]](Weak Learner)를 결합…

다양성 (Diversity) 다양성(Diversity)은 인공지능, 특히 머신러닝과 딥러닝 모델 설계 및 훈련 과정에서 핵심적인 개념으로, 데이터의 분포, 모델의 예측 결과, 또는 학습 알고리즘의 행동이 단일한 패턴에 치우치지 않고 포괄적이고 균형 잡힌 상태를 유지하는 정도를 의미합니다. 현대 AI 시스템이 편향(Bias)을 최소화하고 일반화 성능을 극대화…

Random Forest 개요 Random Forest(랜덤 포레스트)는 머러닝 분야에서 널리되는 앙상블 학습(Ensemble Learning) 기법 중 하나로, 여러 개의 결정트리(Decision Tree)를 결합하여 보다 정확하고 안정적인 예측 성능을 제공하는 알고리즘입니다. 이 방법은 과적합(Overfitting)에 강하고, 다양한 유형의 데이터에 잘…

해싱 트릭 개요 해싱 트(Hashing Trick)은 기 학습 및 데이터 과학 분야 고차원의 범주형 데이터를 효율적으로 처리하기 위한 기술이다. 특히 자연어 처리(NLP)나 대규모 범주형 피처를 다룰 때, 원-핫 인코딩(Oneot Encoding)과 같은 전통적인 인코 방식이 메모리와 계산 자원을 과도하게 소모하는 문제를 해결하기 위해 제안되었다. 해싱 트…

퍼플렉서티 개요 퍼플렉서티(plexity)는 자연어(Natural Language Processing NLP) 분야 언어 모델(Language Model)의 성능을 평가하는 대표적인 지표 중 하나입니다 직관적으로, 퍼플렉서티 모델이 주어진 텍스트 시퀀스를 예측하는 데 얼마나 '당황'하는지를 나타내는 수치로 해석할 수 있습니다. 즉, 퍼플렉서티가 낮을수록 모…