스무딩 타깃 인코딩 스무딩 타깃코딩(Smoothing Target Encoding은 범주형 변수를 수치형 변수로 변환하는 데이터 정제 기법 중 하나로, 특히 머신러닝 모델의 성능 향상을 위해 널리 사용된다. 이 기법은 범주형 변수의 각 카테고리에 대해 해당 카테고리가 목표 변수(target variable)에 미치는 영향을 수치로 표현하면서, 소수의 샘플로…
검색 결과
"사전 분포"에 대한 검색 결과 (총 15개)
VAE (Variational Autoencoder, 변이형 오토인코더) 1. 개요 VAE(Variational Autoencoder)는 입력 데이터의 확률 분포를 학습하여 새로운 데이터를 생성할 수 있도록 설계된 생성 모델(Generative Model)이자 확률론적 그래픽 모델입니다. 기본적인 오토인코더(Autoencoder, AE)가 입력 데이터를 특…
Kullback-Leibler Divergence (KL 발산) Kullback-Leibler Divergence(KL 발산)는 두 확률 분포의 차이를 측정하는 비대칭적 지표로, 정보이론 관점에서 하나의 분포가 다른 분포와 얼마나 다른지를 수치화한 척도이다. 1. 개요 KL 발산은 정보이론에서 상대 엔트로피(Relative Entropy)라고도 불리며, 실…
L2 정규화 개요 L2 정규화(2 Regularization), 또는 리지 정규화(Ridge Regularization), 중치 감소(Weight Decay)는 머신러닝 및 딥러닝 모델에서 과적합(Overfitting)을 방지하기 위해 사용되는 대표적인 정규화 기법 중 하나입니다. 이 방법은 모델의 가중치에 제약을 가하여 복잡성을 줄이고, 학습 데이터에 지…
베이지안 추론 (Bayesian Inference) 베이지안 추론은 확률을 '사건이 발생할 빈도'가 아니라 '가설에 대한 믿음의 정도(Degree of Belief)'로 정의하고, 새로운 데이터가 관찰됨에 따라 기존의 믿음을 지속적으로 업데이트하는 통계적 추론 방법론이다. 1. 개요 베이지안 추론의 핵심은 관찰된 데이터를 바탕으로 모델의 파라미터 에 대한 …
PyMC3 > ⚠️ 중요 안내: PyMC3는 현재 PyMC (v4, v5)로 통합 및 업그레이드되었습니다. 본 문서는 PyMC3를 기준으로 설명하고 있으나, 최신 파이썬 버전과의 호환성 및 성능 향상을 위해 신규 프로젝트에는 최신 버전인 PyMC 사용을 강력히 권장합니다. 개요 PyMC3는 파이썬(Python) 기반의 확률적 프로그래밍 언어(Probabil…
확률 분포 개요 확률 분포(Probability Distribution는 확률변의 가능한 값들과 각 값이 발생할 확률을 체계적으로 설명하는 수학적 함수이다. 통계학과 확률론의 핵심 개념 중 하나, 데이터의 특과 불확실성을량적으로 분석 예측하는 데 필수적인 도구이다. 확률 분포는 실험, 관측, 또는 이론적 모델에서 얻은 결과의 확률적 행동을 모델링하는 데 사…
Concrete Dropout 개요 Concrete Dropout는 심층 신경망에서 드롭아웃(Dropout)의 비율을 고정된 하이퍼파라미터가 아닌 학습 가능한 파라미터로 자동 최적화하는 머신러닝 기법입니다. 2017년 Alexey Gal과 Zoubin Ghahramani가 제안한 이 방법은 베이지안 신경망(Bayesian Neural Networks)의 근…
교차 검증 기반 인코딩 개요 교차 검증 기반 인코딩(Cross-Validation Based Encoding)은 범주형 변수(Categorical Variable)를 수치형 변수로 변환하는 과정에서 과적합(Overfitting)을 방지하기 위해 고안된 고급 인코딩 기법입니다. 특히 타깃 인코딩(Target Encoding)과 같은 기법에서 발생할 수 있는 …
확률적 모델링 개요 확률 모델링(Probabilistic)은 불확실성과 랜성을 내재한 현상이나 시스템을 수학적으로 표현하고 분석하기 위한 통계학 및 확률론의 핵심 기법이다. 현실 세계의 많은 현상은 결정론적으로 예측하기 어려우며, 관측 오차, 자연스러운 변동성, 또는 정보의 부족 등으로 인해 확률적인 접근이 필요하다. 확률적 모델링은 이러한 불확실성을 수량…
LDA (Lat Dirichlet Allocation) 개요 LDA(Latent Dirichlet Allocation, 잠재 디리클레 할당) 자연어 처리(Natural Language Processing, NLP) 분야에서 널리 사용되는주제 모델(Topic Modeling) 기 중 하나입니다. 주로 문서 집합(corpus) 내에서 잠재적인 주제(latent…
K-Fold 타 인코딩 개요 K-Fold 타겟 인코딩(K-Fold Target Encoding)은 범주형 변수(Categorical Variable)를 수치형 변수로 변환 고급 인코 기법 중 하나로, 특히 과적합(Overfitting) 방지하기 위해계된 방법입니다. 범주형 변수의 카테고리를 해당테고리에하는 타겟 변수의 평균값으로 대체하는 타겟 인딩(Targ…
Bayesian Target Encoding 개요 베이지안 타겟 인코딩(Bayesian Target Encoding)은 범주형 변수(categorical variable)를 수치형 변수로 변환하는 고급 인코딩 기법 중 하나로, 특히 머신러닝 모델의 성능 향상을 위해 사용된다. 이 기법은 단순한 타겟 인코딩(target encoding)의 주요 단점인 과적합…
타겟 인코딩 개요 타겟 인코딩(Target)은 머신러닝과 데이터 과학에서 범주형 변수(categorical variable)를 수치형으로 변환하는 고급 인코딩 기법 중 하나입니다. 이 방법은 각 범주(category)를 해당 범주에 속하는 타겟(target) 변수의 통계적 요약값(예: 평균, 중앙값 등)으로 대체함으로써, 범주형 변수와 타겟 간의 관계를 효…
Target Encoding Target Encoding(타겟 인코딩)은 범주형 변수(categorical variable)를 수치형 변수로환하는 고급 인코딩 기법 하나로, 머신러닝 모델의 성능 향상을 위해 널리 사용된다. 이 방법은 각 범주(category)를 그 범주에 속한 관측값들의 목표 변수(target variable)의 평균값으로 대체하는 방식을…