Kullback-Leibler Divergence (KL 발산) Kullback-Leibler Divergence(KL 발산)는 두 확률 분포의 차이를 측정하는 비대칭적 지표로, 정보이론 관점에서 하나의 분포가 다른 분포와 얼마나 다른지를 수치화한 척도이다. 1. 개요 KL 발산은 정보이론에서 상대 엔트로피(Relative Entropy)라고도 불리며, 실…

SBERT (Sentence-BERT) SBERT(Sentence-BERT)는 자연어 처리(NLP) 분야에서 문장 수준(Sentence-level)의 의미적 유사도(Semantic Similarity)를 측정하기 위해 최적화된 BERT 기반의 임베딩 모델입니다. 기존 BERT가 단어 단위나 문장 내 토큰 단위의 표현을 학습하는 데 중점을 둔 반면, SBER…

TfidfVectorizer 개요 TfidfVectorizer는 자연어 처리(Natural Language Processing, NLP)에서 텍스트 데이터를 수치화하는 데 널리 사용되는 도구 중 하나로, scikit-learn 라이브러리에 포함된 클래스입니다. 이 클래스는 텍스트 문서의 집합을 입력으로 받아, 각 문서 내 단어들의 TF-IDF(Term Fr…

TF-IDF 가중 평균베딩 개요 -IDF 가중 평균 임딩(TF-IDF Weighted Averageding)은 자연처리(NLP)에서나 문장의 의미를 수치터로 표현하기 위한 대표적인 기술 중 하나입니다. 방법은 단어 임베딩(word)과 TF-IDF(term-inverse document frequency)중치를 결합하여, 문서 내 각 단어의도를 반영한 문맥 …

Universal Sentence Encoder Universal Encoder(유니버설 문장 인코더, 이하 USE)는 구글이 개발한 자연어 처리(NLP) 모델로 문장을 고정된 차원의 의미 벡터(임베딩)로 변환하는 데 특화된 딥러닝 기반 임베딩 기술이다. 이 모델은 다양한 언어와 문장 구조에 대해 일반화된 의미 표현을 제공하며, 분류, 유사도 계산, 군집화…

분류 개요 분류(Classification)는 머신러닝에서 대표적인 지도 학습(Supervised Learning 과제 중 하나로, 주어 입력 데이터를 미리 정의된 카테고리(클래스) 중 하나로 할당하는 작업을 말합니다. 예 들어, 이메이 스팸인지 정상인지 판단하거나, 의료 데이터를 기반으로 환자가 특정 질병에 걸렸는지를 예측하는 등의 문제에 활용됩니다. 분…