가우스-마르코프 정리 (Gauss-Markov Theorem) 1. 개요 가우스-마르코프 정리는 선형 회귀 모델에서 특정 가정들이 충족될 때, 최소제곱법(Ordinary Least Squares, OLS)을 통해 얻은 추정량이 최선 선형 불편 추정량(Best Linear Unbiased Estimator, BLUE)이 된다는 통계학적 정리이다. 즉, 모든 …
검색 결과
"잔차"에 대한 검색 결과 (총 89개)
평균 개요 평균은 통계학에서 자주 사용되는 중심 경향성 측도로, 데이터 집합의 대표값을 나타냅니다. 주로 산술 평균, 기하 평균, 조화 평균 등으로 구분되며, 회귀 분석과 같은 통계적 모델링에서 중요한 역할을 합니다. 본 문서에서는 평균의 정의, 종류, 통계학에서의 활용 및 회귀 분석과의 연관성을 설명합니다. 1. 평균의 정의와 종류 1.1 산술 평균 (A…
표준편차 개요 표준편차(Standard Deviation)는 통계학에서 데이터의 분산도를 측정하는 대표적인 지표로, 평균값을 중심으로 데이터가 얼마나 퍼져 있는지를 수치화한 값이다. 이 개념은 과학적 연구, 금융 분석, 공학 등 다양한 분야에서 활용되며, 특히 회귀분석에서 모델의 예측 정확도를 평가하는 데 중요한 역할을 한다. 정의 및 개념 수학적 정의 표…
R² 점수 (결정계수) R² 점수(결정계수, Coefficient of Determination)는 회귀 모델의 성능을 측정하는 대표적인 지표입니다. 이는 모델이 종속 변수의 전체 분산 중 어느 정도의 비율을 설명하는지를 나타내며, 모델의 설명력을 정량적으로 평가하는 데 사용됩니다. 정의 및 수식 R² 점수는 실제 값과 모델 예측값 사이의 오차를 기반으로 …
SARIMAX (Seasonal AutoRegressive Integrated Moving Average with eXogenous regressors) 1. 개요 SARIMAX는 시계열 데이터의 자기상관성, 추세, 계절성뿐만 아니라 외부 요인(외생 변수)까지 동시에 고려하여 미래 값을 예측하는 통계적 시계열 분석 모델이다. 이 모델은 전통적인 ARIMA(…
회귀 모델 (Regression Model) 1. 개요 회귀 모델이란 하나 이상의 독립 변수와 하나의 종속 변수 간의 상관관계를 수학적 함수로 모델링하여, 새로운 입력 값에 대한 연속형 수치(Continuous Value)를 예측하는 머신러닝 알고리즘이다. 2. 회귀 모델의 기본 원리 회귀 분석의 핵심은 입력 데이터( )와 출력 데이터( ) 사이의 관계를 …
과학 계산 개요 과학 계산(Scientific Computing)은 수학, 물리, 공학,물학 등 다양한 과 분야의 문제를 해결하기 위해 컴퓨터를 활용하는 학문 분야. 이는 복한 수학적 모을 수치적으로 해석하고, 실제 현상을 시뮬레이션하거나 예측하는 데 중심적인 역할을 한다. 과학 계산은 이론적 분석과 실험적 관찰에 더해 제3의 과학 방법(scientific…
ARIMA (자기회귀 누적 이동평균 모델) 1. 개요 ARIMA(AutoRegressive Integrated Moving Average) 모델은 시계열 데이터의 과거 값과 예측 오차를 이용하여 미래의 값을 예측하는 통계적 분석 모델이다. 특히 비정상 시계열을 차분을 통해 정상 시계열로 변환하여 분석하는 모델이라는 점이 핵심적인 정체성이다. 시계열 데이터가…
설계행렬 (Design Matrix) 1. 개요 설계행렬(Design Matrix)란 통계학 및 선형 모델에서 독립 변수(Independent Variables, Features)들을 행렬 형태로 구조화하여 모델의 파라미터를 효율적으로 추정하기 위해 사용하는 행렬이다. 2. 수학적 정의 및 구조 설계행렬 는 개의 관측치(Observation)와 개의 특성(…
조정 결정계수 (Adjusted R-squared) 조정 결정계수(Adjusted R-squared)는 회귀 분석에서 모델의 설명력을 나타내는 결정계수( )가 독립 변수의 개수가 증가함에 따라 무조건적으로 상승하는 단점을 보완하기 위해, 변수 개수에 따른 페널티를 부여하여 계산한 지표이다. 1. 개요 회귀 분석의 목적은 독립 변수( )들이 종속 변수( )의…
편향 요 머신러닝에서 편향(Bias)은 모델이 학습 데이터에서 실제 패턴을 얼마나 정확하게영하는지를 나타내는 중요한 개념이다. 일반적으로 편향은 모델의 예측 값과 관측 값 사이의 평균적인 차이를 의미하며, 낮은 편향은 모델이 데이터를 잘 학습하고 있음을, 높은 편향은 모델이 데이터의 실제 구조를 간과하고 있다는 것을 나타낸다. 편향은 머신러닝 모델의 성능을…
CAPM 개요 자본자산가격결정모형(Capital Asset Pricing Model, 이하 CAPM)은 금융경제학에서 위험과 기대수익률 간의 관계를 설명하는 핵심 이론 중 하나이다. 이 모형은 투자자가 위험을 감수함으로써 얻을 수 있는 보상의 크기를 정량화하는 데 목적이 있으며, 자산의 기대수익률을 계산하는 데 널리 사용된다. 1960년대 윌리엄 셰프리(W…
로그 변환 개요 로그 변환(log transformation)은 데이터 과학 및 통계 분석에서 자주 사용되는 비선형 데이터 변환 기법으로, 주로 비대칭적이고 오른쪽으로 치우친(right-skewed) 연속형 변수의 분포를 정규 분포에 가깝게 만들기 위해 활용된다. 특히 지수적 성장 패턴을 보이거나 값의 범위가 매우 넓은 데이터(예: 소득, 인구, 웹 방문 …
트랜스포머 (Transformer) 0. 빠른 시작 (Quick Start) 입문자를 위한 트랜스포머 아키텍처의 핵심 요약입니다. 한 줄 정의: 순환 신경망(RNN)의 순차적 처리 한계를 극복하고, 셀프 어텐션(Self-Attention) 메커니즘만을 사용하여 데이터 전체를 병렬로 처리하는 딥러닝 모델입니다. 핵심 키워드: 셀프 어텐션, 멀티 헤드 어텐션,…
불규칙성 (시계열 분석) 1. 개요 본 문서는 시계열 분석(Time Series Analysis) 관점에서의 불규칙성(Irregularity)을 다룬다. 시계열 분석에서 불규칙성이란 데이터의 전체적인 흐름을 결정하는 추세(Trend)나 일정한 주기로 반복되는 계절성(Seasonality)으로 설명되지 않는 무작위적인 변동 성분을 의미한다. 시계열 데이터는 …
Galerkin 방법 (Galerkin Method) 1. 개요 Galerkin 방법은 미분 방정식의 근사해를 구하기 위해 연속적인 함수 공간을 유한 차원의 부분 공간으로 투영하여, 미분 방정식을 대수 방정식(Algebraic Equation) 시스템으로 변환하는 수치해석적 기법이다. 이 방법은 특히 편미분 방정식(PDE)을 풀기 위한 가중 잔차법(Meth…
이상치 탐지 개요 이상치지(Outlier Detection)는 데이터학 및 통계 분석에서 중요한 역할을 하는 기법으로, 데이터 세트 내 다른 관측치와显著하게 다른 값을 가지는 데이터 포인트를 식별하는 과정을 의미한다. 이러한 데이터 포인트는 일반적인 패턴이나 분포에서 벗어나며, 때로는 측정 오류, 데이터 입력 실수, 혹은 진정한 특이 현상일 수 있다. 이상…
드롭아웃 (Dropout) 개요 드롭아웃(Dropout)은 인공지능(AI) 분야에서 네트워크 과적합(overfitting)을 방지하기 위한 정규화 기법으로, 신경망의 훈련 중 일부 뉴런을 무작위로 비활성화하는 방법이다. 이 기법은 2014년 제프리 힌턴(Jeffrey Hinton) 등이 발표한 논문에서 처음 소개되었으며, 현재 딥러닝 모델의 일반적인 성능 …
회귀 계수 회귀 계수(Regression Coefficient)는 통계학에서 회귀 분석(Regression Analysis)을 수행할 때 나타나는 핵심 개념으로, 독립 변수(설명 변수)가 종속 변수(반응 변수)에 미치는 영향의 크기와 방향을 수치적으로 나타냅니다. 회귀 분석은 변수 간의 관계를 모델링하고 예측하는 데 널리 사용되며, 회귀 계수는 이러한 모델…
ANOVA (분산 분석) ANOVA(Analysis of Variance, 분산 분석)는 두 개 이상의 집단 간 평균 차이가 통계적으로 유의미한지 여부를 검정하는 통계적 방법론입니다. 단일 변수의 평균 비교에 사용되는 t-검정과 달리, ANOVA는 세 개 이상의 집단을 동시에 비교할 때 발생할 수 있는 제1종 오류(귀무가설이 참인데 기각하는 오류)의 확률을…