# 사전 학습 (Pre-training) ## 개요 사전 학습(Pre-training)은 인공지능, 특히 딥러닝 모델 개발 파이프라인에서 가장 초기이자 핵심적인 단계로, 방대한 양의 일반 데이터셋을 활용하여 모델이 세계에 대한 기본적인 지식과 패턴을 학습시키는 과정입니다. 이 단계에서 훈련된 모델은 특정 작업에 최적화되지 않은 '기반 모델(Foundati...

# 학습률 스케줄링 ## 개요 **학습률 스케줄링**(Learning Scheduling)은신러닝, 특히러닝 모델의 훈련 과정에서 학습률(Learning Rate)을 훈련 중 동적으로 조정하는 기법입니다. 학습률은 경사하강법(Gradient Descent)을 통해 모델의 가중치를 업데이트할 때 적용되는 스케일링 인자로, 너무 크면 최적해를 지나치고, 너...

```markdown # 비볼록 최적화 ## 개요 비볼록 최적화(Non-convex Optimization)는 데이터과학과 기계학습에서 핵심적인 역할을 하는 수학적 최적화 문제입니다. 볼록 최적화 문제와 달리, 비볼록 문제는 여러 국소 최소값(Local Minima)과 안장점(Saddle Point)을 가질 수 있어 해법 도출이 복잡합니다. 특히 딥러닝,...