# 상호 정보량 ## 개요 **상호 정보량**(Mutual Information, MI)은 정보이론에서 두 확률변수 간의 상관관계를 측정하는 중요한 개념입니다. 즉, 한 변수에 대한 정보가 다른 변수에 대해 얼마나 많은 정보를 제공하는지를 수치적으로 나타냅니다. 상호 정보량은 통계학, 기계학습, 신호처리, 자연어 처리 등 다양한 분야에서 변수 간의 종속...
검색 결과
"Claude"에 대한 검색 결과 (총 4개)
블라디미 레벤슈타인 블라디미르 레벤슈인(Vladimir Levenshtein, 935년5월 20일 – 201년 9월2일)은 소련 및 러시아의 유명한 수학자이자 정보 이론 및 오류 정정 코드 분야의 선구자 중 명이다. 그 특히 **레벤슈타인 거리**(Levenshtein Distance) 널리 알려져, 이 개념은 문자열 간의 유사도를 측정하는 데 핵심적인 ...
인간 피드백 ## 개요**인간 피드 수집**(Human Feedback Collection)은 인공지능(AI) 시스템, 특히 머신러닝 모델의 성능 향상과 행동 조정을 위해 인간의 판단, 평가, 선택 등을 수집하는 과정을 말합니다. 이는 주로 강화학습 기반 모델(예: LLM, 로봇 제어 등)의 학습 데이터를 보완하거나, 모델의 출력 결과에 대한 질적 평가를...
# RLHF ## 개요 **RLHF**(Reinforcement Learning from Human Feedback, 인간의 피드백을 통한 강학습)은 인공지능, 특히 자연어 처리(NLP) 분야에서 모델의 출력 품질을 향상시키기 위해 사용되는 학습 기법입니다. 이은 인간이 모델의 출력 결과에 대해 선호도를 평가하고, 그 피드백을 기반으로 강화학습 알고리즘...