PDF 개요 PDF(Probability Density Function, 확률 밀도 함수)는 확론과 통계학 연속 확률 변수의 확률 분포를 설명하는 핵심 개념이다. 이 함수는 특정 값에서 확률 변수가 나타날 상대적 가능도를 나타내며, 확률 변수가 특정 구간에 속할 확률을 그 구간에서의 PDF의 적분을 통해 계산할 수 있다. PDF는 이산 확률 변수의 경우 사…
검색 결과
"기대값"에 대한 검색 결과 (총 31개)
Kullback-Leibler Divergence (KL 발산) Kullback-Leibler Divergence(KL 발산)는 두 확률 분포의 차이를 측정하는 비대칭적 지표로, 정보이론 관점에서 하나의 분포가 다른 분포와 얼마나 다른지를 수치화한 척도이다. 1. 개요 KL 발산은 정보이론에서 상대 엔트로피(Relative Entropy)라고도 불리며, 실…
Great Expectations 1. 개요 Great Expectations(GE)는 데이터 파이프라인의 신뢰성을 보장하기 위해 설계된 오픈소스 파이썬 라이브러리로, 데이터의 품질을 정의하고 검증하며 문서화하는 프레임워크이다. 현대적인 데이터 엔지니어링 환경에서 데이터 품질 관리(Data Quality Control)는 매우 중요하다. Great Expe…
확률적 경사 하강법 개요 확적 경사 하강(Stochastic Gradientcent, 이하 SGD은 머신러닝 데이터과학 분야에서 널리 사용되는 최적화 알고리즘 중 하나로, 손실(Loss Function)를 최화하기 위해 모델의 파라미터 반복적으로 업데이트하는 방법입니다. 특히 대규모 데이터셋을 처리할 때 전통적인 경사 하강법(Batch Gradient De…
권한 관리 (Authorization Management) 1. 개요 권한 관리란 인증된 사용자가 시스템 내의 특정 자원(Resource)에 접근하거나 특정 동작(Action)을 수행할 수 있는 권한이 있는지 확인하고 제어하는 보안 프로세스이다. 많은 이들이 인증과 권한 부여를 혼동하지만, 보안 아키텍처 관점에서 두 개념은 엄격히 구분된다. 인증 (Auth…
다중 가설 검정 (Multiple Hypothesis Testing) 다중 가설 검정이란 하나의 데이터셋에 대해 여러 개의 통계적 가설 검정을 동시에 수행하는 분석 과정을 의미한다. 이는 개별 검정의 유의수준을 유지할 경우 전체 오류율이 증가하는 문제를 야기하며, 이를 해결하기 위한 통계적 보정 기법을 포함한다. 개요 단일 가설 검정에서는 설정한 유의수준(…
The Elements of Statistical Learning (ESL) 1. 개요 The Elements of Statistical Learning (ESL)은 통계적 학습 이론(Statistical Learning Theory)의 수학적 기초와 머신러닝(Machine Learning, 이하 ML) 알고리즘의 원리를 체계적으로 다룬 학술 서적으로, 데…
오차 분석 (Error Analysis) 1. 개요 본 문서는 수치해석 및 정밀 측정 분야에서 발생하는 오차의 정의와 분석 방법을 다룬다. 오차 분석이란 측정값이나 계산값과 실제 참값 사이의 차이를 정량적으로 분석하여, 결과의 신뢰도를 평가하고 수치적 정확도를 높이는 과정을 의미한다. 수치해석 및 과학적 측정에서 오차 분석이 필수적인 이유는 현실 세계의 모…
확률 분포 개요 확률 분포(Probability Distribution는 확률변의 가능한 값들과 각 값이 발생할 확률을 체계적으로 설명하는 수학적 함수이다. 통계학과 확률론의 핵심 개념 중 하나, 데이터의 특과 불확실성을량적으로 분석 예측하는 데 필수적인 도구이다. 확률 분포는 실험, 관측, 또는 이론적 모델에서 얻은 결과의 확률적 행동을 모델링하는 데 사…
옵션 가격 모델링 (Option Pricing Modeling) 1. 개요 옵션 가격 모델링이란 기초 자산의 가격 변동, 시간의 경과, 이자율 및 변동성 등의 변수를 수학적으로 분석하여 옵션의 이론적 공정 가치(Fair Value), 즉 옵션 프리미엄(Option Premium)을 산출하는 과정이다. 옵션 가격 모델링의 주된 목적은 매수자와 매도자 모두가 …
목표 기반 인코딩 목표 기반 인코딩(Target-based Encoding)은 범주형 변수(Categorical Variable)를 수치형 변수로 변환 데이터 인코딩법 중 하나로, 특히 지도 학습(Supervised Learning)에서 목표 변수(Target Variable)와의 관계를 활용하여 인코딩을하는 방법입니다. 이 방은 단순한 레이블 인코딩(La…
편향 요 머신러닝에서 편향(Bias)은 모델이 학습 데이터에서 실제 패턴을 얼마나 정확하게영하는지를 나타내는 중요한 개념이다. 일반적으로 편향은 모델의 예측 값과 관측 값 사이의 평균적인 차이를 의미하며, 낮은 편향은 모델이 데이터를 잘 학습하고 있음을, 높은 편향은 모델이 데이터의 실제 구조를 간과하고 있다는 것을 나타낸다. 편향은 머신러닝 모델의 성능을…
MSE 개요 MSE(Mean Squared Error, 평균 제곱 오차)는 회귀(regression) 문제에서 예측 모델의 성능을 평가하는 데 널리 사용되는 지표입니다. 이는 예측과 실제 관측값 사이의 차이(오차)를 제곱한 후, 그 평균을 계산함으로써 모델의 정확도를 수치화합니다. MSE는 인공지능, 특히 머신러닝 및 딥러닝 모델의 학습 과정에서 손실 함수…
편향-분산 트레이드오프 (Bias-Variance Tradeoff) 1. 개요 편향-분산 트레이드오프(Bias-Variance Tradeoff)란 머신러닝 모델의 예측 성능을 결정하는 두 가지 핵심 요소인 편향(Bias)과 분산(Variance) 사이의 상충 관계를 의미하며, 모델의 복잡도를 조절하여 전체 오차(Total Error)를 최소화하는 최적의 지…
변분 추론 (Variational Inference) 변분 추론(Variational Inference, VI)은 확률 모델에서 사후 확률(posterior distribution)을 근사하기 위한 방법론 중 하나입니다. 베이지안 통계학에서 사후 확률은 베이즈 정리를 통해 계산되지만, 많은 복잡한 모델에서 정확한 사후 확률의 계산은 불가능하거나 계산 비용이…
Conditional Random Fields (CRF) 개요 Conditional Random Fields(CRF)는 구조화된 예측(structured prediction) 문제를 해결하기 위해 설계된 디스크리미네이티브(discreminative) 확률 그래프 모델입니다. 주로 시퀀스 데이터의 각 요소에 레이블을 할당하는 작업(예: 개체명 인식, 품사 태…
다중 비교 문제 개요 다중 비교 문제(Multiple Comparisons Problem)는 통계학에서 여러 개의 가설을 동시에 검정할 때 발생하는 오류 확률의 증가 현상을 의미합니다. 일반적으로 하나의 가설 검정에서는 제1종 오류(귀무가설이 참인데 기각하는 오류)의 확률을 유의수준(예: α = 0.05)으로 제어합니다. 그러나 여러 개의 검정을 동시에 수…
FWER 개요 FWER(Family-Wise Error Rate, 족별 오류율)은 다중 가설 검정(multiple hypothesis testing)에서 중요한 개념으로, 적어도 하나의 귀무가설을 잘못 기각할 확률, 즉 적어도 하나의 제1종 오류(Type I error)를 범할 확률을 의미합니다. 단일 가설 검정에서는 제1종 오류의 확률을 유의수준(예: α…
CHI 제곱 검정 개요 CHI 제곱 검정(Chi-Square Test, 카이제곱 검정)은 통계학에서 범주형 변수(categorical variable) 간의 독립성 또는 관찰된 빈도와 기대 빈도 간의 차이를 평가하기 위해 널리 사용되는 비모수적(non-parametric) 가설 검정 방법입니다. 이 검정은 영국의 통계학자 카를 피어슨(Karl Pearson…
검정 통계량 개요 검정 통계량(test statistic)은 통계적 가설 검정에서 귀무가설( )의 타당성을 평가하기 위해 계산되는 수치적 지표입니다. 이 통계량은 표본 데이터로부터 도출되며, 표본의 특성과 모집단에 대한 가정을 바탕으로 귀무가설 하에서의 기대값과의 차이를 정량화합니다. 검정 통계량의 크기와 분포를 통해 p-값을 산출하거나, 사전에 정의된 기…