Swish 활성화 함수 1. 개요 Swish는 Google Brain 팀이 제안한 자기 게이팅(Self-Gating) 메커니즘 기반의 비선형 활성화 함수로, 깊은 신경망에서 ReLU(Rectified Linear Unit)보다 더 나은 성능을 보이기 위해 설계되었습니다. Swish 함수는 입력값 에 시그모이드(Sigmoid) 함수를 곱한 형태로 정의되며, …
검색 결과
"단조 함수"에 대한 검색 결과 (총 3개)
시그모이드 함수 개요 시그모이드 함수(Sigmoid Function)는 0에서 1 사이의 값을 출력하는 비선형 활성화 함수로, 인공지능(AI) 및 머신러닝(ML) 분야에서 널리 사용됩니다. 이 함수는 로지스틱 회귀(Logistic Regression), 신경망(Neural Network) 등에서 확률을 예측하거나 이진 분류(Binary Classificat…
불연속점 함수의 불연속점(discontinuity point)은 함수가 특정 점에서 연속이 아닌 경우 해당 점을 말한다. 미적분학에서 함수의 연속성은 극한, 미분, 적분 등의 개념을 이해하는 데 핵심적인 역할을 하며, 불연속점은 이러한 성질이 깨지는 지점을 분석하는 데 중요한 개념이다. 본 문서에서는 불연속점의 정의, 종류, 예시, 그리고 수학적 의미를 체…