Kullback-Leibler Divergence (KL 발산) Kullback-Leibler Divergence(KL 발산)는 두 확률 분포의 차이를 측정하는 비대칭적 지표로, 정보이론 관점에서 하나의 분포가 다른 분포와 얼마나 다른지를 수치화한 척도이다. 1. 개요 KL 발산은 정보이론에서 상대 엔트로피(Relative Entropy)라고도 불리며, 실…
검색 결과
"상대 엔트로피"에 대한 검색 결과 (총 2개)
정보 이론 (Information Theory) 정보 이론(Information Theory)은 정보의 정량화, 저장, 통신을 연구하는 수학의 한 분야입니다. 이 이론은 클로드 섀넌(Claude Shannon)이 1948년 발표한 논문 "통신의 수학적 이론(A Mathematical Theory of Communication)"을 기원으로 하며, 현대 디지…