# L2 정규화 개요 **L2 정규화**(2 Regularization), 또는 **리지 정규화**(Ridge Regularization), **중치 감소**(Weight Decay)는 머신러닝 및 딥러닝 모델에서 **과적합**(Overfitting)을 방지하기 위해 사용되는 대표적인 정규화 기법 중 하나입니다. 이 방법은 모델의 가중치에 제약을 가하...
검색 결과
"다중공선성"에 대한 검색 결과 (총 11개)
# 리지 회귀 리지 회귀(Ridge Regression) 선형 회귀 분석의종이지만, **과적합**(overfitting)을 방지하기 위해 정규화(regularization) 기법을 적용한 고급 회귀 모델이다. 특히 독 변수들 사이에 **다중공선성**(multicollinearity)이 존재할 때 일반 선형 회귀보다 더 안정적인 계수 추정을 제공한다. 리지...
# 회귀 문제 ## 개요 **회귀 문제**(Regression Problem)는 머신러닝에서 지도 학습(Supervised Learning)의 대표적인 과제 중 하나로 입력 변수(특징)를 기반으로연속적인 수치형 출력값**(목표 변수)을 예측하는 작업을 의미한다. 예를 들어, 집의 면적, 위치, 방 수 등을 바탕으로 집값을 예측하거나, 과거의 기온 데이터...
# 더미 변수 ## 개 더미 변수(Dummy Variable 또는 **일변량 가변수**(One-hot Encoding Variable)는 범주형 데이터(categorical data) 수치형 데이터로 변환하기 위해 사용하는 통계 및 데이터 과학의 핵심 기법입니다. 머신러닝 모델이나 회귀 분석과 같은 수적 알고리즘은 일반적으로 숫자 데이터만을 입력으로 처...
One-Hot Encoding**One-Hot Encoding**(원- 인코딩)은신러닝과 데이터 과학 분야에서 범주형 데이터(categorical data)를 수치형 데이터로 변환하는 데 널리 사용되는 기법. 범주형 변수는 특정 범주(예: 색상, 국가, 직업 등)를 나타내며, 일반적으로 정수나 문자열 형태로 저장되지만, 머신러닝 알고리즘은 이러한 값을 직접...
# 선형 최소 제곱법 ## 개요 선형 최 제곱법(Linear Least Squares Method)은 통계학 수치해석에서 널리 사용되는귀분석 기법으로, 관측된 데이터와 모델의 예측값 사이의 **잔차 제곱합**(Sum of Squared Residuals)을 최소화하여 모의 파라미터를 추정하는 방법입니다. 이 방법은 선 회귀 모델의 추정에 가장 기본적이면...
Okay, I to write a professional Wikipedia document about Lasso Regression based on the given structure and requirements. Let's start by understanding the classification and keywords. The main category...
# L2 정규화 ## 개요 L2 정규화(Ridge Regularization)는 머신러닝 모델의 **과적합**(Overfitting)을 방지하기 위해 사용되는 기법입니다. 이는 손실 함수(Loss Function)에 **가중치의 제곱합**을 패널티 항으로 추가하여 모델 복잡도를 제어하는 방식으로 작동합니다. 특히 데이터가 적거나 특성(Feature) 수가...
Okay, I to write a professional wiki-style document in Korean about the Ordinary Least Squares (OLS) method under the category of Regression in Statistics. Let me start by outlining the structure base...
# 로짓(Logit) ## 개요 로짓(logit)은 통계학과 데이터 과학에서 중요한 개념으로, 확률(probability)을 **로그-오즈(log-odds)** 형태로 변환하는 함수입니다. 이는 주로 **로지스틱 회귀**(logistic regression)와 같은 분류 모델에서 사용되며, 이진 결과(예: 성공/실패, 승리/패배)를 예측할 때 유용합니다....
# 선형 회귀 ## 개요 선형 회귀(Linear Regression)는 통계학과 데이터 과학에서 널리 사용되는 기초적인 예측 모델링 기법이다. 이 방법은 독립 변수(X)와 종속 변수(Y) 간의 선형 관계를 수학적 방정식으로 표현하여, 미래 값을 예측하거나 변수 간의 영향을 분석하는 데 활용된다. 선형 회귀는 단순 회귀(Simple Linear Regres...