합성 데이터 (Synthetic Data) 1. 개요 합성 데이터(Synthetic Data, 가상 데이터라고도 함)란 실제 세계에서 수집된 데이터가 아니라, 알고리즘이나 통계적 모델을 통해 인위적으로 생성된 데이터를 의미한다. 실제 데이터(Real-world Data)가 관찰된 사실의 기록이라면, 합성 데이터는 실제 데이터의 통계적 특성, 상관관계, 분포…
검색 결과
"정규분포"에 대한 검색 결과 (총 91개)
어휘 확장자연어처리(NLP, Natural Language Processing) 모델 성능은 모델이 이해하고 처리할 수 있는 어휘의 범위에 크게 영향을 받습니다. 특히 언어는 지속적으로 진화하고, 새로운 단어, 줄임말, 신조어, 전문 용어 등이 등장하기 때문에, 모델의 어휘가 고정되어 있을 경우 성능 저하가 불가피합니다. 어휘 확장(Vocabulary Ex…
제2사분위수 (Second Quartile) 제2사분위수(Second Quartile, )는 데이터를 4등분 하는 세 개의 지점 중 두 번째 지점으로, 전체 데이터의 정확히 50%가 이 값보다 작거나 같고 나머지 50%가 이 값보다 크거나 같은 지점을 의미한다. 1. 정의 및 개념 분위수(Quantile)란 전체 데이터를 크기 순으로 나열했을 때 특정 비율…
Z-score 표준화 Z-score 표준화(Z-score Standardization)란 데이터의 평균을 0, 표준편차를 1이 되도록 변환하는 데이터 전처리 과정입니다. 서로 다른 척도(Scale)를 가진 변수들을 동일한 기준으로 비교하거나, 특정 값이 전체 데이터 분포에서 어느 정도 위치에 있는지 파악하는 것을 목적으로 합니다. 수식 및 원리 Z-scor…
확률 분포 개요 확률 분포(Probability Distribution는 확률변의 가능한 값들과 각 값이 발생할 확률을 체계적으로 설명하는 수학적 함수이다. 통계학과 확률론의 핵심 개념 중 하나, 데이터의 특과 불확실성을량적으로 분석 예측하는 데 필수적인 도구이다. 확률 분포는 실험, 관측, 또는 이론적 모델에서 얻은 결과의 확률적 행동을 모델링하는 데 사…
옵션 가격 모델링 (Option Pricing Modeling) 1. 개요 옵션 가격 모델링이란 기초 자산의 가격 변동, 시간의 경과, 이자율 및 변동성 등의 변수를 수학적으로 분석하여 옵션의 이론적 공정 가치(Fair Value), 즉 옵션 프리미엄(Option Premium)을 산출하는 과정이다. 옵션 가격 모델링의 주된 목적은 매수자와 매도자 모두가 …
스터지스 규칙 (Sturges' rule) 스터지스 규칙은 연속형 데이터의 도수분포표를 작성하거나 히스토그램을 그릴 때, 데이터의 총 개수를 바탕으로 최적의 계급(Bin) 수를 결정하기 위해 사용되는 통계적 공식이다. 1. 개요 데이터 분석 과정에서 원시 데이터를 구간별로 나누어 빈도를 측정하는 도수분포표(Frequency Distribution Table…
유의수준 개요 유의수준(significance level)은 통계학에서 가설검정(hypothesis testing)을 수행할 때 사용하는 기준값으로, 귀무가설( )이 참일 경우에도 이를 기각할 수 있는 허용 가능한 오류의 확률을 의미한다. 일반적으로 그리스 문자 알파(α)로 표기되며, 주로 0.05, 0.01, 0.10과 같은 값을 사용한다. 유의수준은 통…
비정규 분포 기반 표준오차 보정 (Non-normality Based Standard Error Correction) 1. 개요 비정규 분포 기반 표준오차 보정은 표본 크기가 작거나 데이터의 분포가 정규분포를 따르지 않는 비정규성(Non-normality)을 띨 때, 가설검정의 신뢰도를 높이기 위해 표준 오차(Standard Error)를 조정하는 통계적 …
Denoising Autoencoders (DAE) 본 문서는 수식을 사용하여 작성되었습니다. 1. 개요 Denoising Autoencoder (DAE)는 입력 데이터에 의도적으로 노이즈(Noise)를 추가한 뒤, 이를 다시 원본 데이터로 복원하도록 학습함으로써 데이터의 강건한(Robust) 특징을 추출하는 비지도 학습 기반의 신경망 구조이다. 일반적인 …
Q2 (제2사분위수) Q2(제2사분위수, Second Quartile)는 정렬된 데이터 집합을 4등분했을 때 두 번째로 위치하는 지점으로, 전체 데이터의 정확히 50%가 이 값보다 작거나 같고 나머지 50%가 이 값보다 크거나 같은 지점을 의미한다. 1. 정의 및 개념 Q2는 통계학에서 데이터의 중심 경향성을 나타내는 대표적인 지표 중 하나이다. 가장 핵심…
로그 변환 개요 로그 변환(log transformation)은 데이터 과학 및 통계 분석에서 자주 사용되는 비선형 데이터 변환 기법으로, 주로 비대칭적이고 오른쪽으로 치우친(right-skewed) 연속형 변수의 분포를 정규 분포에 가깝게 만들기 위해 활용된다. 특히 지수적 성장 패턴을 보이거나 값의 범위가 매우 넓은 데이터(예: 소득, 인구, 웹 방문 …
시그모이드 함수 개요 시그모이드 함수(Sigmoid Function)는 0에서 1 사이의 값을 출력하는 비선형 활성화 함수로, 인공지능(AI) 및 머신러닝(ML) 분야에서 널리 사용됩니다. 이 함수는 로지스틱 회귀(Logistic Regression), 신경망(Neural Network) 등에서 확률을 예측하거나 이진 분류(Binary Classificat…
이상치 탐지 개요 이상치지(Outlier Detection)는 데이터학 및 통계 분석에서 중요한 역할을 하는 기법으로, 데이터 세트 내 다른 관측치와显著하게 다른 값을 가지는 데이터 포인트를 식별하는 과정을 의미한다. 이러한 데이터 포인트는 일반적인 패턴이나 분포에서 벗어나며, 때로는 측정 오류, 데이터 입력 실수, 혹은 진정한 특이 현상일 수 있다. 이상…
MSE 개요 MSE(Mean Squared Error, 평균 제곱 오차)는 회귀(regression) 문제에서 예측 모델의 성능을 평가하는 데 널리 사용되는 지표입니다. 이는 예측과 실제 관측값 사이의 차이(오차)를 제곱한 후, 그 평균을 계산함으로써 모델의 정확도를 수치화합니다. MSE는 인공지능, 특히 머신러닝 및 딥러닝 모델의 학습 과정에서 손실 함수…
데이터 변환 (Data Transformation) 1. 개요 데이터 변환(Data Transformation)이란 수집된 원시 데이터(Raw Data)를 분석, 모델링 또는 저장 목적에 적합한 형식이나 구조로 변경하는 과정을 의미합니다. 데이터 과학의 전처리(Preprocessing) 단계에서 핵심적인 역할을 하며, 데이터의 품질을 높이고 머신러닝 알고리…
t-검정 (t-test) t-검정은 모분산(모집단의 분산)을 알 수 없는 상황에서 표본 데이터를 바탕으로 모평균을 추정하거나 집단 간 평균 차이의 통계적 유의성을 검증하기 위해 널리 사용되는 모수적 가설검정 방법입니다. t-검정의 개요와 기본 개념 t-검정은 1908년 영국 맥주 양조장 글라우저(Guinness)의 화학자 윌리엄 시즐리 겐트(William …
기대 빈도 (Expected Frequency) 기대 빈도(Expected Frequency)는 확률론과 통계학에서 특정 사건이나 결과가 이론적으로 얼마나 자주 발생할 것으로 예측되는 횟수를 의미합니다. 이는 관측된 데이터(Observed Frequency)와 비교하여 통계적 유의성을 검정하거나, 확률 분포의 특성을 이해하는 데 핵심적인 개념으로 사용됩니다…
표준편차 (Standard Deviation) 표준편차(Standard Deviation)는 확률론 및 통계학에서 사용되는 산포도(Spread)의 척도 중 하나로, 데이터 집합이 평균(Average)으로부터 얼마나 떨어져 있는지를 나타내는 수치입니다. 일반적으로 그리스 문자 시그마( )로 표기하며, 분산(Variance)의 제곱근 값입니다. 표준편차가 작을…
신뢰구간 추정 (Confidence Interval Estimation) 개요 신뢰구간(Confidence Interval, CI)은 통계학에서 모수(parameter)의 값을 추정할 때 사용되는 핵심 개념 중 하나입니다. 표본 데이터를 바탕으로 계산된 이 구간은 "해당 모수가 이 구간에 포함될 확률이 얼마나 되는가"를 나타내는 것이 아니라, 반복적인 표본…