# 변분 추론 (Variational Inference) **변분 추론(Variational Inference, VI)**은 확률 모델에서 사후 확률(posterior distribution)을 근사하기 위한 방법론 중 하나입니다. 베이지안 통계학에서 사후 확률은 베이즈 정리를 통해 계산되지만, 많은 복잡한 모델에서 정확한 사후 확률의 계산은 불가능하거나...
검색 결과
"미니배치"에 대한 검색 결과 (총 11개)
# 파괴적 망각 (Catastrophic Forgetting) 파괴적 망각은 연속 학습(Continual Learning) 환경에서 인공지능 모델이 새로운 작업을 학습하는 과정에서 기존 작업의 성능이 급격히 저하되는 현상을 의미합니다. 이는 인간 학습자가 새로운 지식을 습득하더라도 기존 지식을 완전히 잊지 않는 능력과 대비되는 머신러닝의 근본적인 한계 중...
# 그래프 신경망 (Graph Neural Networks) **그래프 신경망**(Graph Neural Networks, **GNN**)은 그래프 구조의 데이터를 직접 처리하고 학습할 수 있는 딥러닝 모델의 한 종류입니다. 기존 합성곱 신경망(CNN)이 정방형 그리드 구조(이미지)나 시계열 데이터(RNN)에 특화되어 있다면, GNN은 노드(Node)와 ...
# 비용 함수 ## 개요 비용 함수(Cost Function), 손실 함수(Loss Function는 머신러닝 및 데이터과학에서 모델의 예측 성능을 정적으로 평가하는 데 사용되는 핵심 개념이다. 이 함수는 모이 실제 데이터를 기반으로 예측한 값과 실제 관측값 사이의 차이, 즉 '오차'를 수치화하여 모델이 얼마나 잘못 예측하고 있는지를 나타낸다. 비용 함...
# 확률적 경사 하강법 ## 개요 **확적 경사 하강**(Stochastic Gradientcent, 이하 SGD은 머신러닝 데이터과학 분야에서 널리 사용되는 최적화 알고리즘 중 하나로, 손실(Loss Function)를 최화하기 위해 모델의 파라미터 반복적으로 업데이트하는 방법입니다. 특히 대규모 데이터셋을 처리할 때 전통적인 경사 하강법(Batch ...
# 블록화 ## 개요 **블록화**()는 수치계산 및적화 기법 분야에서 대모 문제를 보다 관리 가능한 작은 단위인 "블록"(Block)으로 나누어 처리하는 전략을 의미합니다. 이 기법은 계산의 효율성과 메모리 접근 패턴을 개선하며,렬 처리 및 알고리즘의 수렴 속도를 향상시키는 데 널리됩니다. 특히 대용량 데이터나 고차원 변수를 다루는 최적화 문제에서 블...
# 최적화 ## 개요 최적화(Opt)는 주어진 조건에서 가장 좋은 해를 찾는 과정을 의미하며, 데이터과학 기계학습, 공학 경제학 등 다양한 분야에서 핵심적인 역할을 한다.과학에서는 모델의 예측 성능을 향상시키기 위해 손실 함수(Loss Function)를 최소화, 제약 조건을 만족하면서 목표 함수를 극대화/극소화하는 작업이 자주 발생한다. 최적화 알고리...
# 배치 정규화 개요 **배치 정규화**(Batch Normalization, 이하 배치정규화)는 딥러닝 모델의 학습 속도를 향상시키고, 학습 과정을 안정화하기 위해 제안된 기술이다. 2015년 세르게이 이고르(Sergey Ioffe)와 크리스티안 슈미트(CChristian Szegedy)가 발표한 논문 *"Batch Normalization: Acc...
# 경사하강법경사하강법(Graidentcent)은 기계습과 인공지능 분야에서 모델의 학습 과정에서 손실 함수(Loss Function)를 최소화하기 위해 널리 사용되는 **최적화 알고리즘**이다. 이 알고리즘은 주어진 함수의 기울기(경사)를 계산하여, 그 기울기가 가장 가파르게 내려가는 방향으로 매 반복마다 모델의 매개변수를 조정함으로써 최솟값을 찾아가는 ...
```markdown # 비볼록 최적화 ## 개요 비볼록 최적화(Non-convex Optimization)는 데이터과학과 기계학습에서 핵심적인 역할을 하는 수학적 최적화 문제입니다. 볼록 최적화 문제와 달리, 비볼록 문제는 여러 국소 최소값(Local Minima)과 안장점(Saddle Point)을 가질 수 있어 해법 도출이 복잡합니다. 특히 딥러닝,...
# 경사 하강법 ## 개요 경사 하강법(Gradient Descent)은 머신러닝에서 모델의 파라미터를 최적화하기 위한 기본적인 최적화 알고리즘입니다. 이 방법은 **비용 함수(cost function)**의 기울기(gradient)를 계산하여, 매개변수를 반복적으로 조정해 최소값을 찾는 과정입니다. 경사 하강법은 신경망, 회귀 모델 등 다양한 학습 알고...