# 결정계수 ## 개요 **결정계수**(決定係數, 영어: Coefficient of Determination)는 회귀분석에서 독립변수(설명변수)가 종속변수(반응변수)의 변동을 얼마나 잘 설명하는지를 나타내는 통계량이다. 일반적으로 **R²**(R-squared)로 표기되며, 그 값은 0에서 1 사이의 실수로 표현된다. 결정계수는 회귀 모형의 적합도(Go...
검색 결과
"Overfitting"에 대한 검색 결과 (총 121개)
# 딥러닝 기반 방법 ## 개요 딥러닝 기반 방법은 머신러닝의 한 분야로, 인공신경망(Artificial Neural Networks, ANN)의 다층 구조를 활용하여 데이터에서 복잡한 패턴과 특징을 자동으로 학습하는 기술입니다. 특히 깊은 네트워크 구조(즉, 여러 개의 은닉층을 가진 구조)를 사용함으로써 기존의 머신러닝 기법들이 해결하기 어려웠던 고차...
# 가중치 행렬 ## 개요 **가중치 행렬**(Weight Matrix)은 인공신경망(Artificial Neural Network, ANN)의 핵심 구성 요소 중 하나로, 뉴런 간의 연결 강도를 수치적으로 표현한 행렬입니다. 이 행렬은 입력 신호가 네트워크를 통해 전파될 때 각 연결 경로에 적용되는 가중치를 담고 있으며, 신경망이 학습하는 과정은 주로...
# LightGBM LightGBM은 마이크로소프트에서 개발한 고성능의 경량 그래디언트 부스팅 프레임워크로, 대규모 데이터셋에서도 빠르고 효율적인 학습을 가능하게 하는 머신러닝 알고리즘입니다. 특히 분류, 회귀, 순위 예측 등 다양한 머신러닝 과제에서 뛰어난 성능을 보이며, XGBoost, CatBoost 등과 함께 대표적인 그래디언트 부스팅 트리(Gra...
# 편향 ## 개요 머신러닝 모델의 성능을 평가할 때 중요한 요소 중 하나는 **편향**(Bias)입니다. 편향은 모델이 학습 데이터의 패턴을 얼마나 잘 반영하는지를 나타내는 지표로, 일반적으로 **예측값과 실제값 사이의 평균적인 차이**를 의미합니다. 낮은 편향은 모델이 데이터의 진짜 관계를 잘 포착하고 있음을, 높은 편향은 모델이 너무 단순하거나 학...
# 최소제곱법 ## 개요 **최소제곱법**(Least Squares Method)은 관측된 데이터와 모델의 예측값 사이의 차이, 즉 **잔차**(residual)의 제곱합을 최소화하여 모델의 파라미터를 추정하는 통계적 방법이다. 이 방법은 회귀 분석, 데이터 피팅, 예측 모델링 등 데이터과학의 핵심 분야에서 널리 사용되며, 특히 선형 회귀 모델의 추정에...
# 이미지 전처리 이미지 전처리(Image Preprocessing)는 디지털 이미지를 컴퓨터 비전(Computer Vision) 또는 머신러닝 모델에 입력하기 전에 특정 목적에 맞게 변환하고 개선하는 일련의 과정을 말합니다. 이 과정은 원본 이미지의 노이즈를 제거하고, 특징을 강조하며, 모델의 학습과 추론 성능을 향상시키는 데 핵심적인 역할을 합니다. ...
# 교차 검증 기반 인코딩 ## 개요 **교차 검증 기반 인코딩**(Cross-Validation Based Encoding)은 범주형 변수(Categorical Variable)를 수치형 변수로 변환하는 과정에서 **과적합**(Overfitting)을 방지하기 위해 고안된 고급 인코딩 기법입니다. 특히 타깃 인코딩(Target Encoding)과 같은...
# 감독 학습 ## 개요 **감독 학습**(Supervised Learning)은 인공지능, 특히 머신러닝 분야에서 가장 기초적이고 널리 사용되는 학습 방식 중 하나입니다. 이 방법은 입력 데이터와 그에 대응하는 정답(레이블)이 쌍으로 주어진 상태에서 모델이 입력과 출력 사이의 관계를 학습함으로써 새로운 입력에 대한 정확한 출력을 예측할 수 있도록 합니...
# 특성 추출 ## 개요 **특성 추출**(Feature Extraction)은 데이터 과학과 머신러닝 분야에서 원시 데이터(raw data)로부터 유의미한 정보를 추출하여 모델 학습에 적합한 형태의 입력 변수(특성, features)를 생성하는 과정을 의미합니다. 이는 데이터 전처리의 핵심 단계 중 하나로, 고차원 데이터의 차원 축소, 노이즈 제거, ...
# 다중 선형 회귀 다중 선형 회귀(Multiple Linear Regression)는 하나의 종속 변수(dependent variable)와 두 개 이상의 독립 변수(independent variables) 간의 선형 관계를 모델링하는 통계적 기법이다. 머신러닝과 통계학에서 널리 사용되며, 특히 수치 예측 문제(regression problems)에서 ...
# 매개변수 민감성 ## 개요 **매개변수 민감성**(Parameter Sensitivity)은 데이터과학 및 머신러닝 모델에서 모델의 출력 또는 성능이 특정 매개변수(Parameter)의 변화에 얼마나 민감하게 반응하는지를 평가하는 개념이다. 이는 모델의 안정성, 해석 가능성, 그리고 신뢰성을 판단하는 데 중요한 요소로 작용하며, 특히 하이퍼파라미터 ...
# 검증 오차 ## 개요 **검증 오차**(Validation Error)는 기계학습 및 통계 모델링에서 모델의 성능을 평가하기 위해 사용되는 중요한 지표 중 하나입니다. 이는 학습된 모델이 훈련 데이터 외의 새로운 데이터를 얼마나 잘 일반화(generalization)하는지를 측정하는 데 사용됩니다. 검증 오차는 모델의 과적합(overfitting) ...
# Random Forest ## 개요 **Random Forest**(랜덤 포레스트)는 머러닝 분야에서 널리되는 앙상블 학습(Ensemble Learning) 기법 중 하나로, 여러 개의 결정트리(Decision Tree)를 결합하여 보다 정확하고 안정적인 예측 성능을 제공하는 알고리즘입니다. 이 방법은 과적합(Overfitting)에 강하고, 다양한...
# 의사결정 나무 ## 개요 **의사결정무**(Decision Tree)는 과학과 기계 학습 분야에서 널리 사용되는 지도 학습 알고리즘 중 하나로, 분류(Classification와 회귀() 문제를 해결하는 데 적합한 모델입니다. 이 알고리즘은의 특성(변수)을 기준으로 계층적으로 분할하여 최종적으로 예측 결과를 도출하는 트리 구조의 모델을 생성합니다. ...
# Few-shot 학습 ## 개 **Few-shot 학습**(Few-shot Learning)은 머신러닝 특히 딥러닝 분야에서 **매우 적은 수의 학습 샘플**(예: 클래스당 1~5개)만으로 새로운 개념 클래스를 학습하고 인식 수 있도록 하는 학습 방법입니다. 전통적인 지도 학습은 수천에서 수백만 개 레이블링된 데이터를 필요로 하지만, 실제 응용에서는...
# 에포크 ## 개요 머신러닝 모델 훈련 과정에서 **에포크**(Epoch)는 학습 데이터 전체를 한 번 완전히 통과하여 모델이 학습을 수행하는 단위를 의미합니다. 즉, 훈련 데이터셋에 포함된 모든 샘플이 모델에 한 번 입력되어 가중치가 업데이트되는 과정을 **1 에포크**라고 정의합니다. 에포크는 모델 훈련의 핵심 하이퍼파라미터 중 하나로, 학습의 깊...
# Dense ## 개요 **Dense**는 인공지, 특히 **신경망**(Neural Network)의 구성 요소 중 하나로, **완전 연결층**(Fully Connected Layer이라고도 불립. 이 층은 신망의 기본적인조 단위로서 입력 노드와 출력드 사이의 모든 가능한을 포함하고 있습니다 딥러닝 모델에서 주로 분류, 회귀 등의 최종 출력을 생성하거...
# 일반화 기법 ## 개요 머신러닝 모델이 훈련 데이터에 잘추는 것(과적합, overfit)은 중요하지, 더 중요한 것은 **델이 이전 본 적 없는 새로운 데이터**(테스트)에 대해서도 작동하는 것이다. 이 능력을 **일화**(generalization라고 하며, 머신러닝의 핵심 목표 중 하나이다. 일반화 성을 향상시키기 위해 사용하는 다양한 전략과 기...
# 모델 훈련 ## 개요 모델 훈련(Model)은 머신닝(Machine Learning) 핵심 과정, 주어진 데이터를 기반으로 모델이 특정 작업을 수행할 수 있도록 학습시키는 절차를 의미합니다. 이 과정에서 알고리즘은 입력 데이터와 정답(라벨) 사이의 관계를 학습하여, 새로운 데이터에 대해 정확한 예측이나 판단을 내릴 수 있는 능력을 획득하게 됩니다. ...