정규방정식 개요 정규방정식(Normal Equation)은 선형회귀(Linear Regression) 문제를 해결하기 위한 해석적(analytical) 방법 중 하나로, 최소제곱법(Least Squares Method)을 사용하여 선형 모델의 계수를 직접 계산하는 수식이다. 이 방정식은 손실 함수인 잔차 제곱합(Sum of Squared Residuals)…
검색 결과
검색어를 입력하세요.
가우스-마르코프 정리 (Gauss-Markov Theorem) 1. 개요 가우스-마르코프 정리는 선형 회귀 모델에서 특정 가정들이 충족될 때, 최소제곱법(Ordinary Least Squares, OLS)을 통해 얻은 추정량이 최선 선형 불편 추정량(Best Linear Unbiased Estimator, BLUE)이 된다는 통계학적 정리이다. 즉, 모든 …
설계행렬 (Design Matrix) 1. 개요 설계행렬(Design Matrix)란 통계학 및 선형 모델에서 독립 변수(Independent Variables, Features)들을 행렬 형태로 구조화하여 모델의 파라미터를 효율적으로 추정하기 위해 사용하는 행렬이다. 2. 수학적 정의 및 구조 설계행렬 는 개의 관측치(Observation)와 개의 특성(…
회귀 계수 회귀 계수(Regression Coefficient)는 통계학에서 회귀 분석(Regression Analysis)을 수행할 때 나타나는 핵심 개념으로, 독립 변수(설명 변수)가 종속 변수(반응 변수)에 미치는 영향의 크기와 방향을 수치적으로 나타냅니다. 회귀 분석은 변수 간의 관계를 모델링하고 예측하는 데 널리 사용되며, 회귀 계수는 이러한 모델…
RSS (Residual Sum of Squares) RSS(Residual Sum of Squares, 잔차 제곱합)는 통계학, 특히 회귀분석(Regression Analysis)에서 통계 모델의 적합도(Goodness of Fit)를 평가하는 핵심 지표 중 하나입니다. RSS는 관측된 데이터 값과 모델이 예측한 값 사이의 차이인 잔차(Residual)들…
의사역행렬 의사역행렬(Pseudoinverse), 또는 무어-펜로즈 역행렬(Moore-Penrose Inverse)은 선형대수학에서 정방행렬이 아니거나 비가역적인 행렬에 대해 일반화된 역행렬을 제공하는 중요한 개념이다. 실제 응용에서 많은 문제들이 정방행렬이 아닌 비정방행렬로 표현되며, 이 경우 일반적인 역행렬을 정의할 수 없기 때문에 의사역행렬은 회귀분석…
최소제곱법 개요 최소제곱법(Least Squares Method)은 관측된 데이터와 모델의 예측값 사이의 차이, 즉 잔차(residual)의 제곱합을 최소화하여 모델의 파라미터를 추정하는 통계적 방법이다. 이 방법은 회귀 분석, 데이터 피팅, 예측 모델링 등 데이터과학의 핵심 분야에서 널리 사용되며, 특히 선형 회귀 모델의 추정에 가장 일반적으로 적용된다.…
다중 선형 회귀 다중 선형 회귀(Multiple Linear Regression)는 하나의 종속 변수(dependent variable)와 두 개 이상의 독립 변수(independent variables) 간의 선형 관계를 모델링하는 통계적 기법이다. 머신러닝과 통계학에서 널리 사용되며, 특히 수치 예측 문제(regression problems)에서 기본이…
회귀 방정식 개요 회귀 방식(Regression Equation)은 통학에서 두 개 이상의 변수 간의 관계를 수학적으로 모델링하여, 한 변수의 값을 다른 변수의 값을 기으로 예측하는 사용되는 수식입니다. 주로 독립 변수(independent variable)와 종 변수(dependent variable) 사이의관 관계를 분석하고, 이를 바탕으로 미래의 값을…
잔차 제곱합 개요 잔차 제곱합(Sum of Squared Residuals, SSR)은 회귀 분석에서 모델의 예측값과 실제 관측값 간의 차이를 정량적으로 평가하는 지표입니다. 이 값은 잔차(residual)를 제곱한 후 모든 관측치에 대해 합산한 것으로, 모델의 적합도를 판단하는 핵심 요소입니다. 잔차 제곱합이 작을수록 모델이 데이터에 잘 맞는다는 의미이며…