샘플링 개요 샘플링(Sampling)은 전체 모집단(Population에서 일부를 선택하여 그 특성을 조사함으로써 모집단 성질을 추정하는계적 방법이다. 데이터과학 분야에서 샘플링은규모 데이터셋 효율적으로 처리하고 분석하는 데심적인 역할을 한다. 특히 빅데이터 환경에서 전체 데이터를 처리하는 것이 비용이나 시간 측면에서 비효율적일 경우, 적절한 샘플링 기법을…
검색 결과
"scikit-learn"에 대한 검색 결과 (총 212개)
사기 탐지 개요 사기 탐지(Fraud Detection)는 금융 거래, 보험 청구, 전자상거래, 신용카드 사용 등 다양한 영역에서 부정행위를 식별하고 예방하기 위한 데이터과학 기반의 핵심 기술입니다. 특히 딥러닝, 머신러닝, 통계적 이상치 탐지 기법을 활용하여 정상적인 패턴에서 벗어난 비정상적인 행동이나 거래를 자동으로 감지하는 데 초점을 맞춥니다. 사기 …
회귀 모델 (Regression Model) 1. 개요 회귀 모델이란 하나 이상의 독립 변수와 하나의 종속 변수 간의 상관관계를 수학적 함수로 모델링하여, 새로운 입력 값에 대한 연속형 수치(Continuous Value)를 예측하는 머신러닝 알고리즘이다. 2. 회귀 모델의 기본 원리 회귀 분석의 핵심은 입력 데이터( )와 출력 데이터( ) 사이의 관계를 …
The Elements of Statistical Learning (ESL) 1. 개요 The Elements of Statistical Learning (ESL)은 통계적 학습 이론(Statistical Learning Theory)의 수학적 기초와 머신러닝(Machine Learning, 이하 ML) 알고리즘의 원리를 체계적으로 다룬 학술 서적으로, 데…
데이터 누수 (Data Leakage) 데이터 누수(Data Leakage)는 머신러닝 및 데이터 과학 모델의 학습 과정에서, 테스트 데이터(평가 데이터)에 포함되어야 할 정보가 우연히 또는 실수로 학습 데이터에 유입되어 모델이 실제 환경에서보다 과도하게 높은 성능을 보이는 현상을 의미합니다. 이는 모델의 일반화 능력(Generalization)을 과대평가…
기계 학습 전처리 기계 학습 전처리(Machine Learning Preprocessing)는 원시 데이터를 기계 학습 모이 효과적으로 학습할 수 있도록 변환하고 준비하는 일련의 과정을 의미합니다. 모델의 성능은 학습 알고리즘뿐 아니라 데이터의 질에 크게 의존하므로, 전처리는 기계 학습 프로젝트에서 가장 중요한 단계 중 하나로 꼽힙니다. 이 문서에서는 기계…
nDCG (normalized Discounted Cumulative Gain) 1. 개요 nDCG(normalized Discounted Cumulative Gain)는 정보 검색(Information Retrieval) 및 추천 시스템에서 검색 결과나 추천 리스트의 품질을 측정하기 위해 사용되는 순위 평가 지표이다. 단순히 정답 포함 여부만을 따지는 정…
데이터 변환 데이터 변환(Data Transformation)은 데이터 과학 및 정보 처리 과정에서 핵심적인 단계 중 하나로, 원시 데이터를 분석이나 모델링에 적합한 형태로 재구조화하거나 변형하는 작업을 의미합니다. 이 과정은 데이터 정제, 통합, 정규화, 스케일링 등 다양한 기법을 포함하며, 데이터 품질을 높이고 분석 결과의 신뢰성을 보장하는 데 중요한 …
PR-AUC (Precision-Recall Area Under the Curve) 1. 개요 PR-AUC는 정밀도-재현율 곡선 아래의 면적(Area Under the Precision-Recall Curve)을 수치화한 지표로, 이진 분류 모델의 성능을 평가하는 데 사용됩니다. 이 지표는 정밀도(Precision)와 재현율(Recall)의 조화로운 성능을…
가중치 평균 개요 가중치 평균(Weighted Average)은 단순 평균(Arithmetic Mean)과 달리 각 신뢰도를 반영하기 위해 가중치(Weight)를 부여하여 계산하는 평균 방식입니다. 특히 데이터과학과 모델 평가 분야에서 다양한 지표를 종합하거나, 클래스 불균형이 있는 분류 문제에서 성능을 평가할 때 널리 사용됩니다. 단순 평균은 모든 데이터…
단일 활성화 개요 단일 활성화(One-Hot Encoding)는 범주형 데이터(categorical data)를 기계학습 모델이 처리할 수 있도록 수치형 형태로 변환하는 대적인 데이터 인코딩 기 중 하나입니다.주형 변수는 특정한 카테고리나 레이블을 가지는 데이터로, 예를 들어 "성별(남, 여)", "지역(서울, 부산, 대구)" 등이 있습니다. 그러나 대부분…
Term Frequency (단어 빈도) 1. 개요 Term Frequency(TF, 단어 빈도)란 특정 문서 내에서 특정 단어가 등장하는 횟수를 측정하는 지표로, 텍스트 마이닝과 정보 검색(Information Retrieval)에서 문서의 주제나 특징을 파악하기 위해 사용하는 가장 기본적인 통계적 수치이다. TF의 핵심 목적은 "특정 단어가 문서 내에서…
Z-score 표준화 Z-score 표준화(Z-score Standardization)란 데이터의 평균을 0, 표준편차를 1이 되도록 변환하는 데이터 전처리 과정입니다. 서로 다른 척도(Scale)를 가진 변수들을 동일한 기준으로 비교하거나, 특정 값이 전체 데이터 분포에서 어느 정도 위치에 있는지 파악하는 것을 목적으로 합니다. 수식 및 원리 Z-scor…
F1-score 1. 개요 F1-score는 분류 모델의 성능을 평가하는 지표로, 정밀도(Precision)와 재현율(Recall)의 조화 평균(Harmonic Mean)으로 계산되는 수치입니다. 일반적으로 분류 모델의 성능을 측정할 때 정확도(Accuracy)를 사용하지만, 데이터의 클래스 분포가 매우 불균형한 경우(Imbalanced Data) 정확도는…
빅데이터 분석 (Big Data Analytics) 1. 개요 빅데이터 분석이란 기존의 데이터베이스 관리 도구로는 수집, 저장, 관리, 분석하기 어려울 정도로 거대한 규모와 복잡성을 가진 데이터 집합(Big Data)으로부터 유의미한 패턴, 상관관계, 추세 및 통찰력을 추출하는 고도의 분석 프로세스를 의미한다. 전통적인 데이터 분석이 정형 데이터(Struc…
이진 분류 (Binary Classification) 1. 개요 이진 분류(Binary Classification)란 주어진 데이터를 두 개의 서로 배타적인 클래스(Class) 중 하나로 분류하는 [[지도 학습]](Supervised Learning)의 한 형태이다. 일반적으로 정답 레이블은 0과 1, 혹은 'Positive(긍정/참)'와 'Negative…
범주형 변수 개요 범주형 변수(Categorical Variable)는 데이터 과학과 통계학에서 중요한 데이터 유형 중 하나로, 특정 범주나 그룹에 속하는 값을 가지는 변수를 의미합니다. 이 변수는 정량적인 수치가 아닌 정성적인 속성을 표현하며, 데이터 분석, 머신러닝 모델링, 데이터 시각화 등 다양한 과정에서 핵심적인 역할을 합니다. 예를 들어, 사람의 …
인공지능 개요 인공지능Artificial Intelligence, AI)은 인간의 지능을 모방하거나 이를월하는 기계적 시스템을 설계하고 구현하는 컴퓨터 과학의 한 분입니다. 인공지능은 인간이 보이는 사고, 학습, 추론, 인식, 문제 해결, 의사 결정 등의 능력을 소프트웨어나 하드웨어를 통해 재현하는 것을 목표로 합니다. 최근 수십 년간 컴퓨팅 성능의 비약적…
Fairness Indicators Fairness Indicators는 머신러닝 모델의 예측 결과가 특정 사용자 그룹(인종, 성별, 연령 등)에 대해 편향되어 있는지 측정하고 시각화하여 모델의 공정성을 평가하는 오픈소스 도구 및 프레임워크입니다. 개요 머신러닝 모델은 학습 데이터에 포함된 인간의 편견이나 데이터 수집 과정의 불균형을 그대로 학습하여 특정 …
코사인 유사도 (Cosine Similarity) 1. 개요 코사인 유사도(Cosine Similarity)란 두 벡터 간의 각도의 코사인 값을 이용하여 두 벡터가 얼마나 유사한 방향을 가리키고 있는지를 측정하는 알고리즘이다. 이 측정 방식은 벡터의 크기(Magnitude)보다는 방향성(Direction)에 집중하며, 결과값은 일반적으로 -1에서 1 사이의…