테스트 데이터 개요 스트 데이터(Test Data는 데이터 과학 및 기계 학습 프로젝트에서 모델의능을 평가하기 위해 사용되는 데이터의 하 집합입니다.적으로 전체 데이터셋은 훈련(Training), 검증(Validation), 테스트(Test) 데이터로 분할되며, 이 중 테 데이터는 모델발 과정에서 최종 평가 단에서 사용됩니다 테스트 데이터는 모이 훈련 과에…

R² 개요 R²(R-squared, 결정계수)는 통계학 및 기계학습에서 회귀 모델의 성능을가하는 대표 지표 중 하나입니다. R² 모델이 종속 변수(dependent variable)의 분산 중 얼마나 많은 부분을 설명할 수 있는지를 나타내는 값으로, 일반적으로 0에서 1 사이의 값을 가집니다. 이 값이 1에 가까울수록 모델이 데이터의 변동성을 잘 설명하고 …

다중 선형 회귀 다중 선형 회귀(Multiple Linear Regression)는 하나의 종속 변수(dependent variable)와 두 개 이상의 독립 변수(independent variables) 간의 선형 관계를 모델링하는 통계적 기법이다. 머신러닝과 통계학에서 널리 사용되며, 특히 수치 예측 문제(regression problems)에서 기본이…

주택 가격 예측 (House Price Prediction) 1. 개요 주택 가격 예측이란 머신러닝 기반의 회귀 분석을 통해 특정 주택의 가치를 예측하는 과정이다. 이 과정의 주된 목적은 과거의 거래 패턴과 주택의 물리적·환경적 특성 사이의 상관관계를 학습하여, 새로운 데이터가 입력되었을 때 정확한 가격을 산출하는 회귀(Regression) 모델을 구축하는…

전역 정규화 (Global Normalization) 1. 개요 전역 정규화(Global Normalization)란 머신러닝 모델 학습 전, 데이터셋 전체의 통계량(평균, 표준편차, 최솟값, 최댓값 등)을 산출하여 모든 개별 데이터를 일정한 범위나 분포로 변환하는 데이터 전처리 기법이다. 이 과정의 주된 목적은 서로 다른 단위(Unit)나 스케일을 가진 …

모델 다양성 (Model Diversity) 1. 개요 모델 다양성(Model Diversity)이란 [[앙상블 학습]](Ensemble Learning) 시스템 내에서 결합되는 개별 학습 모델들이 서로 다른 예측 패턴을 가지거나, 서로 다른 종류의 오류를 범하는 정도를 의미한다. 앙상블 학습은 여러 개의 [[약한 학습기]](Weak Learner)를 결합…

데이터 과학 (Data Science) 1. 개요 데이터 과학(Data Science)은 정형 및 비정형 데이터로부터 유의미한 통찰(Insight)과 지식을 추출하기 위해 수학, 통계학, 컴퓨터 과학 및 도메인 지식을 융합하여 활용하는 다학제적 분야이다. 현대 사회에서 데이터 과학은 단순한 통계 분석을 넘어, 방대한 양의 데이터(Big Data)를 처리하고…

과적합 (Overfitting) 개요/소개 과적합(overfitting)은 머신러닝 모델이 훈련 데이터에 지나치게 적응하여, 새로운 데이터에 대한 일반화 능력이 떨어지는 현상을 의미합니다. 이는 모델이 학습 데이터의 노이즈와 특수한 패턴을 포함해 학습하게 되면서 발생하며, 훈련 성능은 우수하지만 테스트 성능은 저하되는 문제가 있습니다. 과적합은 머신러닝 모…

데이터 리크 (Data Leakage) 개요 데이터 리크(Data Leakage)란 머신러닝 모델을 학습시킬 때, 모델이 예측해야 할 타겟(Target) 정보나 테스트 데이터셋의 정보가 학습 데이터셋에 의도치 않게 포함되어 모델의 성능이 비정상적으로 높게 측정되는 현상을 말한다. 데이터 리크가 발생하면 학습 단계에서는 매우 높은 정확도와 낮은 오차를 보이지…

분류 (Classification) 개요 분류(Classification)는 데이터과학에서 가장 핵심적인 기계학습(ML) 기법 중 하나로, 주어진 데이터를 사전 정의된 범주 또는 클래스에 할당하는 과정을 의미합니다. 이는 지도학습(Supervised Learning)의 대표적 유형으로, 입력 데이터(X)와 그에 해당하는 레이블(Y)을 기반으로 모델을 학습시…

L1 정규화 개요/소개 L1 정규화(L1 Regularization)는 머신러닝 모델의 과적합(overfitting)을 방지하기 위해 사용되는 중요한 기법 중 하나입니다. 이 방법은 모델의 파라미터(계수)에 절대값을 기반으로 페널티를 추가하여, 불필요한 특성(feature)을 제거하고 모델의 단순성을 유지합니다. L1 정규화는 특히 스파시(Sparse) 모…

샘플링 개요 샘플링(Sampling)은 전체 모집단(Population에서 일부를 선택하여 그 특성을 조사함으로써 모집단 성질을 추정하는계적 방법이다. 데이터과학 분야에서 샘플링은규모 데이터셋 효율적으로 처리하고 분석하는 데심적인 역할을 한다. 특히 빅데이터 환경에서 전체 데이터를 처리하는 것이 비용이나 시간 측면에서 비효율적일 경우, 적절한 샘플링 기법을…

회귀 모델 (Regression Model) 1. 개요 회귀 모델이란 하나 이상의 독립 변수와 하나의 종속 변수 간의 상관관계를 수학적 함수로 모델링하여, 새로운 입력 값에 대한 연속형 수치(Continuous Value)를 예측하는 머신러닝 알고리즘이다. 2. 회귀 모델의 기본 원리 회귀 분석의 핵심은 입력 데이터( )와 출력 데이터( ) 사이의 관계를 …

데이터 누수 (Data Leakage) 데이터 누수(Data Leakage)는 머신러닝 및 데이터 과학 모델의 학습 과정에서, 테스트 데이터(평가 데이터)에 포함되어야 할 정보가 우연히 또는 실수로 학습 데이터에 유입되어 모델이 실제 환경에서보다 과도하게 높은 성능을 보이는 현상을 의미합니다. 이는 모델의 일반화 능력(Generalization)을 과대평가…

기계 학습 전처리 기계 학습 전처리(Machine Learning Preprocessing)는 원시 데이터를 기계 학습 모이 효과적으로 학습할 수 있도록 변환하고 준비하는 일련의 과정을 의미합니다. 모델의 성능은 학습 알고리즘뿐 아니라 데이터의 질에 크게 의존하므로, 전처리는 기계 학습 프로젝트에서 가장 중요한 단계 중 하나로 꼽힙니다. 이 문서에서는 기계…

대표성 편향 (Representativeness Bias) 1. 개요 대표성 편향(Representativeness Bias)이란 어떤 대상이 특정 집단의 전형적인 특성과 유사하다는 이유만으로, 그 대상이 해당 집단에 속할 확률이 높다고 판단하는 인지적 오류를 의미한다. 이는 사람들이 확률적 판단을 내릴 때 수학적인 확률 계산보다는 직관적인 '유사성'이나 …

이진 분류 (Binary Classification) 1. 개요 이진 분류(Binary Classification)란 주어진 데이터를 두 개의 서로 배타적인 클래스(Class) 중 하나로 분류하는 [[지도 학습]](Supervised Learning)의 한 형태이다. 일반적으로 정답 레이블은 0과 1, 혹은 'Positive(긍정/참)'와 'Negative…

scikit-learn 개요 scikit-learn은 파이썬 프로그래밍 언어를 기반으로 한 오픈소스 머신러닝 라이브러리입니다. 과학적 컴퓨팅과 데이터 분석을 위한 Python 생태계(SciPy)에 포함되어 있으며, 데이터 마이닝, 데이터 분석, 예측 모델링 등 다양한 기능을 제공합니다. 2007년에 처음 공개된 이후로, 개발자와 데이터 과학자가 머신러닝 알…

스팸 메일 필터링 (Spam Mail Filtering) 스팸 메일 필터링은 전자 메일 시스템에서 원치 않는 대량 발송 메시지(스팸)를 자동으로 감지하고 차단하거나 분류하는 기술적 프로세스를 의미합니다. 현대의 이메일 서비스는 방대한 양의 데이터 속에서 정상적인 통신과 스팸을 실시간으로 구분해야 하며, 이를 위해 머신러닝, 자연어 처리(NLP), 그리고 통…

XGBoost 개요 XGBoost(Extreme Gradient Boosting)는 효율적이고 확장 가능한 그래디언트 부스팅 라이브러리로, Tianqi Chen과 공동 연구진에 의해 2014년 공개되었습니다. 데이터 과학 경진대회(Kaggle 등)와 산업 현장 모두에서 높은 예측 성능과 학습 속도로 널리 사용되고 있으며, 현재까지 머신러닝 생태계에서 가장 …