# 상호 정보량 ## 개요 **상호 정보량**(Mutual Information, MI)은 정보이론에서 두 확률변수 간의 상관관계를 측정하는 중요한 개념입니다. 즉, 한 변수에 대한 정보가 다른 변수에 대해 얼마나 많은 정보를 제공하는지를 수치적으로 나타냅니다. 상호 정보량은 통계학, 기계학습, 신호처리, 자연어 처리 등 다양한 분야에서 변수 간의 종속...

# PDF ## 개요 **PDF**(Probability Density Function, 확률 밀도 함수)는 **확론**과 **통계학** 연속 확률 변수의 확률 분포를 설명하는 핵심 개념이다. 이 함수는 특정 값에서 확률 변수가 나타날 **상대적 가능도**를 나타내며, 확률 변수가 특정 구간에 속할 확률을 그 구간에서의 PDF의 적분을 통해 계산할 수 ...

# smoothing parameter ## 개요 **Smoothing parameter**(스무딩 파라터)는 머신러닝 및계 모델링에서 데이터의 노이즈ise)를 줄 모델의 일반화능을 향상시키기 위해 사용되는 중요한 하이퍼파라미터입니다. 이 파라미터 모델이 데이터에 **과적합overfitting)되는 것을 방지하고, 관측된 데이터의 불확실성이나 변동성을 ...