Kullback-Leibler Divergence (KL 발산) Kullback-Leibler Divergence(KL 발산)는 두 확률 분포의 차이를 측정하는 비대칭적 지표로, 정보이론 관점에서 하나의 분포가 다른 분포와 얼마나 다른지를 수치화한 척도이다. 1. 개요 KL 발산은 정보이론에서 상대 엔트로피(Relative Entropy)라고도 불리며, 실…
검색 결과
"JS Divergence"에 대한 검색 결과 (총 2개)
확률 분포 개요 확률 분포(Probability Distribution는 확률변의 가능한 값들과 각 값이 발생할 확률을 체계적으로 설명하는 수학적 함수이다. 통계학과 확률론의 핵심 개념 중 하나, 데이터의 특과 불확실성을량적으로 분석 예측하는 데 필수적인 도구이다. 확률 분포는 실험, 관측, 또는 이론적 모델에서 얻은 결과의 확률적 행동을 모델링하는 데 사…