Swish 활성화 함수 1. 개요 Swish는 Google Brain 팀이 제안한 자기 게이팅(Self-Gating) 메커니즘 기반의 비선형 활성화 함수로, 깊은 신경망에서 ReLU(Rectified Linear Unit)보다 더 나은 성능을 보이기 위해 설계되었습니다. Swish 함수는 입력값 에 시그모이드(Sigmoid) 함수를 곱한 형태로 정의되며, …
검색 결과
"Leaky ReLU"에 대한 검색 결과 (총 5개)
가중치 초기화 (Weight Initialization) 개요 가중치 초기화(Weight Initialization)는 인공 신경망(Artificial Neural Network)을 학습시키기 전에 네트워크의 가중치(Weight)와 바이어스(Bias)에 초기값을 부여하는 과정을 의미합니다. 딥러닝 모델의 성능은 아키텍처와 하이퍼파라미터뿐만 아니라, 초기 가…
리니어ReLU (LinearReLU) 리니어ReLU(LinearReLU)는 인공 신경망(Artificial Neural Networks)에서 활성화 함수(Activation Function)로 사용되는 수학적 연산자입니다. 이 함수는 입력값이 양수일 경우 선형적으로 값을 전달하고, 음수일 경우 0으로 고정하는 ReLU(Rectified Linear Unit…
가중치 행렬 개요 가중치 행렬(Weight Matrix)은 인공신경망(Artificial Neural Network, ANN)의 핵심 구성 요소 중 하나로, 뉴런 간의 연결 강도를 수치적으로 표현한 행렬입니다. 이 행렬은 입력 신호가 네트워크를 통해 전파될 때 각 연결 경로에 적용되는 가중치를 담고 있으며, 신경망이 학습하는 과정은 주로 이 가중치 행렬의 …
tanh 개요 tanh(하이퍼볼릭 탄젠트, Hyperbolic Tangent)는 인공신경망에서 널리 사용되는 비선형 활성화 함수 중 하나입니다. 수학적으로는 입력값에 대한 하이퍼볼릭 탄젠트 값을 출력하며, 출력 범위가 -1에서 1 사이로 제한된다는 특징을 가지고 있습니다. 이는 신경망의 학습 안정성과 수렴 속도에 긍정적인 영향을 미칠 수 있어, 특히 초기 …