# 학습률 스케줄링 ## 개요 **학습률 스케줄링**(Learning Scheduling)은신러닝, 특히러닝 모델의 훈련 과정에서 학습률(Learning Rate)을 훈련 중 동적으로 조정하는 기법입니다. 학습률은 경사하강법(Gradient Descent)을 통해 모델의 가중치를 업데이트할 때 적용되는 스케일링 인자로, 너무 크면 최적해를 지나치고, 너...
검색 결과
"AdamW"에 대한 검색 결과 (총 2개)
```markdown # 비볼록 최적화 ## 개요 비볼록 최적화(Non-convex Optimization)는 데이터과학과 기계학습에서 핵심적인 역할을 하는 수학적 최적화 문제입니다. 볼록 최적화 문제와 달리, 비볼록 문제는 여러 국소 최소값(Local Minima)과 안장점(Saddle Point)을 가질 수 있어 해법 도출이 복잡합니다. 특히 딥러닝,...