# Supervised Fine-tuning (지도 미세 조정) **Supervised Fine-tuning**(SFT, 지도 미세 조정)은 대규모 언어 모델(Large Language Model, LLM)이나 다른 딥러닝 모델을 특정 작업이나 도메인에 맞게 전문화시키기 위해, 레이블이 지정된 데이터셋을 사용하여 사전 학습된 모델의 가중치를 추가로 학습시...
검색 결과
"과적합"에 대한 검색 결과 (총 212개)
# 위양성율 (False Positive Rate) **위양성율**(False Positive Rate, 약자 **FPR**)은 이진 분류(Binary Classification) 문제에서 실제 음성(Negative)인 샘플 중 모델이 양성(Positive)으로 잘못 예측한 비율을 의미합니다. 즉, "사건이 발생하지 않았음에도 불구하고 사건이 발생했다고 ...
# 레이블의 분포 (Label Distribution) ## 개요 **레이블의 분포(Label Distribution)**는 기계 학습(Machine Learning) 및 데이터 과학 분야에서 분류(Classification) 문제의 타겟 변수(Target Variable)가 데이터셋 내에서 어떻게 할당되어 있는지를 나타내는 통계적 특성입니다. 특히 지...
# 파괴적 망각 (Catastrophic Forgetting) 파괴적 망각은 연속 학습(Continual Learning) 환경에서 인공지능 모델이 새로운 작업을 학습하는 과정에서 기존 작업의 성능이 급격히 저하되는 현상을 의미합니다. 이는 인간 학습자가 새로운 지식을 습득하더라도 기존 지식을 완전히 잊지 않는 능력과 대비되는 머신러닝의 근본적인 한계 중...
# 머신러닝(Machine Learning) 머신러닝은 명시적인 프로그래밍 없이 컴퓨터가 데이터를 통해 스스로 학습하고 패턴을 인식하여 예측 또는 결정을 내리는 인공지능(AI)의 핵심 하위 분야입니다. ## 머신러닝의 개요와 정의 머신러닝은 아서 사무엘(Arthur Samuel)이 1959년 "컴퓨터가 특정 작업을 수행하기 위해 명시적인 명령어 없이 ...
# 가중치 (Weight) **가중치**(Weight)는 인공 신경망(Artificial Neural Network, ANN) 및 머신러닝 모델에서 입력 데이터의 중요도를 결정하는 핵심 매개변수입니다. 신경망이 학습을 통해 데이터를 이해하고 예측하는 과정에서 가장 중요한 역할을 하며, 모델의 성능을 결정짓는 가장 큰 요소 중 하나입니다. 이 문서에서는 가...
# GRU (Gated Recurrent Unit) **GRU**(Gated Recurrent Unit, 게이트드 리커런트 유닛)는 순환 신경망(RNN, Recurrent Neural Network)의 한 변형 모델로, 장기 의존성 문제(Long-term Dependency Problem)를 해결하기 위해 설계된 알고리즘입니다. 2014년 키라(Kyung...
# 편향 (Bias) **편향(Bias)**은 인공지능, 특히 머신러닝 및 딥러닝 모델의 평가와 개발 과정에서 가장 중요한 윤리적·기술적 이슈 중 하나입니다. 이는 모델이 학습 데이터나 알고리즘 설계의 특성으로 인해 특정 그룹, 성별, 인종, 종교, 사회경제적 지위 등에 대해 체계적이고 불공정한 차별이나 왜곡된 예측 결과를 내놓는 현상을 의미합니다. 편향...
# Conditional Random Fields (CRF) ## 개요 **Conditional Random Fields(CRF)**는 구조화된 예측(structured prediction) 문제를 해결하기 위해 설계된 디스크리미네이티브(discreminative) 확률 그래프 모델입니다. 주로 시퀀스 데이터의 각 요소에 레이블을 할당하는 작업(예: 개체...
# XGBoost ## 개요 **XGBoost**(Extreme Gradient Boosting)는 효율적이고 확장 가능한 그래디언트 부스팅 라이브러리로, Tianqi Chen과 공동 연구진에 의해 2014년 공개되었습니다. 데이터 과학 경진대회(Kaggle 등)와 산업 현장 모두에서 높은 예측 성능과 학습 속도로 널리 사용되고 있으며, 현재까지 머신러닝...
# Adapter 모듈 ## 개요 **Adapter 모듈**(Adapter Module)은 사전 학습된 대규모 인공지능 모델(Transformer, Vision Transformer 등)에 경량의 trainable 레이어를 삽입하여 **파라미터 효율적 미세 조정(Parameter-Efficient Fine-Tuning, PEFT)**을 가능하게 하는 구조...
# Contrast Limited Adaptive Histogram Equalization (CLAHE) ## 개요 **Contrast Limited Adaptive Histogram Equalization(CLAHE)**은 디지털 이미지 처리 및 컴퓨터 비전 분야에서 이미지의 지역적 대비(Contrast)를 향상시키기 위해 널리 사용되는 적응형 히스토그...
# Concrete Dropout ## 개요 **Concrete Dropout**는 심층 신경망에서 드롭아웃(Dropout)의 비율을 고정된 하이퍼파라미터가 아닌 학습 가능한 파라미터로 자동 최적화하는 머신러닝 기법입니다. 2017년 Alexey Gal과 Zoubin Ghahramani가 제안한 이 방법은 베이지안 신경망(Bayesian Neural Ne...
# 수치 예측 문제 (Numerical Prediction Problem) ## 개요 수치 예측 문제는 머신러닝에서 입력 데이터의 특징을 바탕으로 연속적인 실수 값(continuous value)을 출력하는 지도 학습(Supervised Learning) 태스크입니다. 이 분야는 통계학의 **회귀 분석(Regression Analysis)**에 이론적 뿌...
# 사전 학습 (Pre-training) ## 개요 사전 학습(Pre-training)은 인공지능, 특히 딥러닝 모델 개발 파이프라인에서 가장 초기이자 핵심적인 단계로, 방대한 양의 일반 데이터셋을 활용하여 모델이 세계에 대한 기본적인 지식과 패턴을 학습시키는 과정입니다. 이 단계에서 훈련된 모델은 특정 작업에 최적화되지 않은 '기반 모델(Foundati...
# 인공지능 성능 측정 인공지능(AI)의 성능 측정은 AI 시스템이 주어진 과제를 얼마나 효과적이고 정확하게 수행하는지를 평가하는 과정입니다. AI 기술이 급속도로 발전함에 따라, 단순한 정확도 이상의 다양한 지표를 활용하여 모델의 신뢰성, 효율성, 공정성 등을 종합적으로 평가하는 것이 중요해졌습니다. 이 문서는 인공지능 성능 측정의 주요 개념, 평가 지...
# 금융 시장 예측 ## 개요 금융 시장 예측(Financial Market Forecasting)은 주식, 채권, 외환, 원자재 등 다양한 금융 자산의 미래 가격 변동을 분석하고 추정하는 과정을 의미한다. 이는 투자자, 기관, 정책 결정자들이 리스크를 관리하고 수익을 극대화하기 위한 핵심 도구로 활용되며, 경제 전반의 방향성을 가늠하는 데도 중요한 역...
# 디멘셔널리티 문제 ## 개요 **디멘셔널리티 문제**(Dimensionality Problem), 또는 **차원의 저주**(Curse of Dimensionality)는 데이터 과학 및 머신러닝 분야에서 고차원 데이터를 다룰 때 발생하는 일련의 이슈를 의미합니다. 데이터의 차원(특징 수)이 증가함에 따라 데이터 공간의 기하학적 성질이 급격히 변화하며...
# 클래스 불균형 ## 개요 **클래스 불균형**(Class Imbalance)은 머신러닝에서 분류 문제를 다룰 때, 특정 클래스의 샘플 수가 다른 클래스에 비해 현저히 적거나 많은 경우를 의미합니다. 예를 들어, 사기 탐지 시스템에서 정상 거래는 수백만 건인 반면 사기 거래는 수천 건에 불과할 수 있으며, 이 경우 사기 클래스(소수 클래스)는 전체 데...
# 편향 문제 ## 개요 인공지능(AI) 시스템은 대량의 데이터와 복잡한 알고리즘을 기반으로 의사결정을 수행한다. 그러나 학습 데이터, 모델 설계, 운영 환경 등에 내재된 **편향(bias)** 은 AI가 인간과 동일하거나 더 나은 판단을 내리지 못하고, 특정 집단에 불리한 결과를 초래할 위험을 내포한다. AI 윤리 분야에서 **편향 문제**는 공...