정규방정식 개요 정규방정식(Normal Equation)은 선형회귀(Linear Regression) 문제를 해결하기 위한 해석적(analytical) 방법 중 하나로, 최소제곱법(Least Squares Method)을 사용하여 선형 모델의 계수를 직접 계산하는 수식이다. 이 방정식은 손실 함수인 잔차 제곱합(Sum of Squared Residuals)…

조정 결정계수 (Adjusted R-squared) 조정 결정계수(Adjusted R-squared)는 회귀 분석에서 모델의 설명력을 나타내는 결정계수( )가 독립 변수의 개수가 증가함에 따라 무조건적으로 상승하는 단점을 보완하기 위해, 변수 개수에 따른 페널티를 부여하여 계산한 지표이다. 1. 개요 회귀 분석의 목적은 독립 변수( )들이 종속 변수( )의…

회귀 계수 회귀 계수(Regression Coefficient)는 통계학에서 회귀 분석(Regression Analysis)을 수행할 때 나타나는 핵심 개념으로, 독립 변수(설명 변수)가 종속 변수(반응 변수)에 미치는 영향의 크기와 방향을 수치적으로 나타냅니다. 회귀 분석은 변수 간의 관계를 모델링하고 예측하는 데 널리 사용되며, 회귀 계수는 이러한 모델…

선형성 (Linearity) 개요 선형성(Linearity)은 통계학, 특히 회귀분석(Regression Analysis)의 맥락에서 가장 기본적이면서도 중요한 가정 중 하나입니다. 선형성이란 독립 변수(설명 변수)와 종속 변수(반응 변수) 사이의 관계가 직선 형태로 표현될 수 있음을 의미합니다. 즉, 독립 변수의 변화가 일정하게 증가하거나 감소할 때, 종…

종속 변수 개요 종속 변수(dependent variable)는 수학, 통계학, 과학 실험 등 다양한 분야에서 자주 사용되는 핵심 개념 중 하나로, 다른 변수의 변화에 따라 그 값이 결정되거나 영향을 받는 변수를 의미한다. 쉽게 말해, '결과' 또는 '출력'에 해당하는 변수로, 독립 변수(independent variable)의 변화에 따라 달라진다. 종속…

회귀 분석 회귀 분석(Regression Analysis)은 통계학에서 두 개 이상의 변수 간의 관계를 모델링하고 분석하는 대표적인 기법 중 하나입니다. 특히 한 변수(종속 변수)가 다른 변수들(독립 변수 또는 설명 변수)에 의해 어떻게 영향을 받는지를 수학적으로 표현함으로써 예측 및 추론을 가능하게 합니다. 회귀 분석은 경제학, 사회과학, 의학, 공학, …

오차항 오차항(Error Term)은 통계학과귀 분석에서 매우 중요한 개념, 모델이 설명하지 못하는 데이터의 변동성을 나타냅. 이는 관된 종속 변수의 값과 회귀 모델이 예측한 값 사이의 차이를 의미하며, 모델의 정확도를 평가하고 개선하는 데 핵심적인 역할을 합니다. 오차항은 일반적으로 잔차(Residual)와 혼동되기도 하지만, 통계 이론에서는 모집단 수준…

목표 변수 개 목표 변수(Target Variable)는 데이터 과학 및 머신러닝 분야에서 모델이 예측하거나 설명하려는 주요 변수를 의미합니다. 이는 종속 변수(Depend Variable), 응답 변수(Response Variable), 또는 출력 변수(Output Variable)라고도 불리며, 모델 학습의 중심이 되는 요소입니다. 데이터 전처리 과정에…

선형 최소 제곱법 개요 선형 최 제곱법(Linear Least Squares Method)은 통계학 수치해석에서 널리 사용되는귀분석 기법으로, 관측된 데이터와 모델의 예측값 사이의 잔차 제곱합(Sum of Squared Residuals)을 최소화하여 모의 파라미터를 추정하는 방법입니다. 이 방법은 선 회귀 모델의 추정에 가장 기본적이면서도 핵심적인 역할을…