# 배치 정규화 개요 **배치 정규화**(Batch Normalization, 이하 배치정규화)는 딥러닝 모델의 학습 속도를 향상시키고, 학습 과정을 안정화하기 위해 제안된 기술이다. 2015년 세르게이 이고르(Sergey Ioffe)와 크리스티안 슈미트(CChristian Szegedy)가 발표한 논문 *"Batch Normalization: Acc...
검색 결과
"내부 공변량 이동"에 대한 검색 결과 (총 4개)
기울기 폭주 ## 개요 **기울기 폭주**(Gradient Explosion)는 딥닝 모델 학습정에서 발생할 수 있는 주요 문제 중 하나로, 역전파(backpropagation) 단계에서 기울기(Gradient)의 크기가 지나치게 커져 모델의 가중치 업데이트가 불안정해지는 현상을 말합니다. 이 현상은 특히은 신경망(deep neural networks)...
# 정규화 ## 개요 정규화(Normalization)는 데이터과학과 머신러닝 분야에서 모델의 성능을 향상시키고 학습 과정을 안정화하기 위해 사용되는 핵심 기법 중 하나입니다. 주로 입력 데이터나 모델 내부의 활성값(activations)을 특정 범위나 분포로 조정함으로써 기울기 소실(gradient vanishing) 또는 기울기 폭주(gradient...
# ResNet ## 개요 ResNet(Residual Network)는 2015년 Kaiming He 등이 발표한 딥러닝 아키텍처로, 깊은 신경망에서 발생하는 **Vanishing Gradient 문제**를 해결하기 위해 **잔차 학습(residual learning)** 프레임워크를 제안한 모델입니다. 이 모델은 ImageNet 대회(ILSVRC 20...