# 확률적 경사 하강법 ## 개요 **확적 경사 하강**(Stochastic Gradientcent, 이하 SGD은 머신러닝 데이터과학 분야에서 널리 사용되는 최적화 알고리즘 중 하나로, 손실(Loss Function)를 최화하기 위해 모델의 파라미터 반복적으로 업데이트하는 방법입니다. 특히 대규모 데이터셋을 처리할 때 전통적인 경사 하강법(Batch ...

# 사전 학습 **사전 학습**(Pre-training) 머신러닝, 특히 딥닝 분야에서리 사용되는 학습 전략으로, 모델이 특정 작업에 본격적으로 적용되기 전에 방대한 양의 일반적인 데이터를 통해 기본적인 지식이나 표현 능력을 습득하는 과정을 의미합니다. 이 방법은 주어진 과제(예: 텍스트 분류, 이미지 인식)에 대한 **전이 학습**(Transfer Le...

하이퍼파미터 조정 ## 개요 하이퍼파라미터 조정(Hyperparameter Tuning)은 머신러닝 모델의 성능을 최적화하기 위해 모델 학습 전에 설정 하는 **하이퍼파라미터**(Hyperparameter)의 값을 체계적으로 탐색하고 선택하는 과정입니다. 하이퍼파라미터는 모델의 구조나 학습 방식을 결정하는 외부 파라미터로, 예를 들어 학습률(Learni...

# 최적화 ## 개요 최적화(Opt)는 주어진 조건에서 가장 좋은 해를 찾는 과정을 의미하며, 데이터과학 기계학습, 공학 경제학 등 다양한 분야에서 핵심적인 역할을 한다.과학에서는 모델의 예측 성능을 향상시키기 위해 손실 함수(Loss Function)를 최소화, 제약 조건을 만족하면서 목표 함수를 극대화/극소화하는 작업이 자주 발생한다. 최적화 알고리...

# 경사하강법경사하강법(Graidentcent)은 기계습과 인공지능 분야에서 모델의 학습 과정에서 손실 함수(Loss Function)를 최소화하기 위해 널리 사용되는 **최적화 알고리즘**이다. 이 알고리즘은 주어진 함수의 기울기(경사)를 계산하여, 그 기울기가 가장 가파르게 내려가는 방향으로 매 반복마다 모델의 매개변수를 조정함으로써 최솟값을 찾아가는 ...

# 최적화 적화(Optimization)는 주진 조건 하에서 가장 좋은 해를 찾는 과정을 의미하며, 데이터과학 분야에서 핵심적인 역할을 한다. 다양한 문제를 수적으로 모델링한 후, 목적 함수(objective function)를 최소화하거나 최대화하는 최적의 해를 도출하는 것이 목표이다. 최적화는 머신러닝, 통계 분석, 운영 연구, 공학 설계 등 수많은 ...

# ResNet ## 개요 ResNet(Residual Network)는 2015년 Kaiming He 등이 발표한 딥러닝 아키텍처로, 깊은 신경망에서 발생하는 **Vanishing Gradient 문제**를 해결하기 위해 **잔차 학습(residual learning)** 프레임워크를 제안한 모델입니다. 이 모델은 ImageNet 대회(ILSVRC 20...

```markdown # 비볼록 최적화 ## 개요 비볼록 최적화(Non-convex Optimization)는 데이터과학과 기계학습에서 핵심적인 역할을 하는 수학적 최적화 문제입니다. 볼록 최적화 문제와 달리, 비볼록 문제는 여러 국소 최소값(Local Minima)과 안장점(Saddle Point)을 가질 수 있어 해법 도출이 복잡합니다. 특히 딥러닝,...

# 하이퍼파라메터 ## 개요/소개 하이퍼파라메터(Hyperparameter)는 머신러닝 모델의 학습 과정에서 **사전에 설정되는 조절 매개변수**로, 모델의 성능과 수렴 속도에 직접적인 영향을 미칩니다. 이는 학습 알고리즘 내부에서 자동으로 계산되지 않으며, 개발자가 직접 정의해야 하는 파라메터입니다. 예를 들어, 신경망의 경우 레이어 수, 노드 수, 활...

# 경사 하강법 ## 개요 경사 하강법(Gradient Descent)은 머신러닝에서 모델의 파라미터를 최적화하기 위한 기본적인 최적화 알고리즘입니다. 이 방법은 **비용 함수(cost function)**의 기울기(gradient)를 계산하여, 매개변수를 반복적으로 조정해 최소값을 찾는 과정입니다. 경사 하강법은 신경망, 회귀 모델 등 다양한 학습 알고...