# 최소제곱법 ## 개요 **최소제곱법**(Least Squares Method)은 관측된 데이터와 모델의 예측값 사이의 차이, 즉 **잔차**(residual)의 제곱합을 최소화하여 모델의 파라미터를 추정하는 통계적 방법이다. 이 방법은 회귀 분석, 데이터 피팅, 예측 모델링 등 데이터과학의 핵심 분야에서 널리 사용되며, 특히 선형 회귀 모델의 추정에...

# 감독 학습 ## 개요 **감독 학습**(Supervised Learning)은 인공지능, 특히 머신러닝 분야에서 가장 기초적이고 널리 사용되는 학습 방식 중 하나입니다. 이 방법은 입력 데이터와 그에 대응하는 정답(레이블)이 쌍으로 주어진 상태에서 모델이 입력과 출력 사이의 관계를 학습함으로써 새로운 입력에 대한 정확한 출력을 예측할 수 있도록 합니...

# Scikit-learn ## 개요 **Scikit-learn**(사이킷-런)은 파이썬 기반의 오픈소스 머신러닝 라이브러리로, 데이터 마이닝과 데이터 분석에 널리 사용됩니다. 다양한 기계학습 알고리즘을 간결하고 일관된 인터페이스로 제공하며, 지도 학습, 비지도 학습, 모델 평가, 전처리, 하이퍼파라미터 튜닝 등 머신러닝 프로젝트 전반에 필요한 기능을 ...

# 다중 선형 회귀 다중 선형 회귀(Multiple Linear Regression)는 하나의 종속 변수(dependent variable)와 두 개 이상의 독립 변수(independent variables) 간의 선형 관계를 모델링하는 통계적 기법이다. 머신러닝과 통계학에서 널리 사용되며, 특히 수치 예측 문제(regression problems)에서 ...

# 회귀 회귀(Regression)는 머신러닝 통계학에서 기법 중 하나로 하나 이상의 독립 변수(입력 변수)와 종속 변수(출력 변수) 사이의 관계를 모델링하여 연속 값을 예측하는 데 사용됩니다. 회귀 분석은 데이터의 패턴을 이해하고, 미래의 값을 추정하거나 간의 인과 관계를 탐색하는 데 널리 활용됩니다. 이 문서에서는 회귀 분석의 기본 개념, 주요 유형,...

# 회귀 문제 ## 개요 **회귀 문제**(Regression Problem)는 머신러닝에서 지도 학습(Supervised Learning)의 대표적인 과제 중 하나로 입력 변수(특징)를 기반으로연속적인 수치형 출력값**(목표 변수)을 예측하는 작업을 의미한다. 예를 들어, 집의 면적, 위치, 방 수 등을 바탕으로 집값을 예측하거나, 과거의 기온 데이터...

# 정규 방정식 ## 개요 정규 방정식(Normal Equation)은 **선형 회귀 분석**(Linear Regression)에서 최적의 파라미터(계수)를 직접 계산하는 수학적 방법입니다. 이 방법은 반복적 최적화 알고리즘인 경사 하강법(Gradient Descent)과 달리, 행렬 연산을 통해 해를 한 번에 도출합니다. 주로 **작은 데이터셋** 또는...

# 회귀 계수 ## 개요 회귀 계수는 통계학에서 변수 간 관계를 모델링하고 예측하는 데 사용되는 핵심 개념입니다. 주로 선형 회귀 분석을 통해 독립변수와 종속변수 사이의 수량적 관계를 정량화합니다. 이 문서에서는 회귀 계수의 정의, 종류, 계산 방법, 해석 방식 및 실제 적용 사례에 대해 상세히 설명합니다. --- ## 정의 및 개념 ### 선형 회...

# L2 정규화 ## 개요 L2 정규화(Ridge Regularization)는 머신러닝 모델의 **과적합**(Overfitting)을 방지하기 위해 사용되는 기법입니다. 이는 손실 함수(Loss Function)에 **가중치의 제곱합**을 패널티 항으로 추가하여 모델 복잡도를 제어하는 방식으로 작동합니다. 특히 데이터가 적거나 특성(Feature) 수가...