Pseudo-labeling (의사 라벨링) 1. 개요 Pseudo-labeling(의사 라벨링)은 라벨이 없는 데이터(Unlabeled Data)에 대해 모델이 예측한 결과값 중 신뢰도가 높은 것을 임시 정답(Pseudo-label)으로 간주하여 다시 학습 데이터셋에 포함시키는 준지도 학습(Semi-supervised Learning) 기법이다. 학계에서…
검색 결과
검색어를 입력하세요.
Siamese Networks (샴 네트워크) 1. 개요 샴 네트워크(Siamese Networks)는 두 개 이상의 서로 다른 입력값에 대해 동일한 가중치를 공유하는 신경망 구조를 사용하여, 입력 데이터 간의 유사도(Similarity)를 측정하는 특수 목적의 신경망 아키텍처이다. 일반적인 신경망이 입력 데이터를 특정 클래스로 분류(Classificati…
은닉 상태 (Hidden State) 1. 개요 은닉 상태(Hidden State)란 순환 신경망(RNN, Recurrent Neural Network)과 같은 시퀀스 데이터 처리 모델에서 과거의 입력 정보를 압축하여 저장하고, 이를 다음 시점으로 전달하는 일종의 '내부 메모리' 역할을 하는 벡터이다. 시퀀스 데이터(텍스트, 음성, 주가 등)는 데이터의 순…
데이터 증강 (Data Augmentation) 1. 개요 데이터 증강(Data Augmentation)이란 기존의 학습 데이터를 인위적으로 변형하거나 생성하여 데이터셋의 양을 늘리고 다양성을 확보하는 데이터 전처리 기법이다. 머신러닝과 딥러닝 모델, 특히 파라미터 수가 많은 심층 신경망은 학습 데이터가 부족할 경우 훈련 데이터에만 지나치게 최적화되어 새로…
모델 일반화 (Model Generalization) 1. 개요 모델 일반화(Model Generalization)란 머신러닝 모델이 학습 과정에서 사용되지 않은 새로운 데이터(Unseen Data)에 대해 얼마나 정확하게 예측하거나 분류할 수 있는지를 나타내는 능력이다. 머신러닝의 궁극적인 목표는 단순히 학습 데이터셋의 정답을 맞히는 것이 아니라, 데이터…
장기 기억 신경망 개요 장기 신경망(Long Short-T Memory, LSTM)은 순환 신망(Recurrent Neural Network,NN)의 한형으로, 시계열 데이터나 순차적 데이터를 효과적으로 처리하기 위해 설계 인공신경망 구조입니다. 전통적인 RNN은 장기 의존성(long-term dependencies) 문제, 즉 오래된 정보를 기억하고 활용…
경량 모델링 (Lightweight Modeling) 1. 개요 경량 모델링이란 딥러닝 모델의 파라미터 수와 연산량을 줄여 메모리 사용량을 최소화하고 추론 속도를 향상시키면서도, 모델의 예측 성능(Accuracy) 하락을 최소화하는 최적화 기술 전반을 의미한다. 이는 이미 학습된 기존 모델의 크기를 줄이는 모델 압축(Model Compression) 기술뿐…
자기-어텐션 (Self-Attention) 1. 개요 자기-어텐션(Self-Attention)은 입력 시퀀스 내의 각 토큰이 동일한 시퀀스 내의 다른 모든 토큰과의 관계를 계산하여, 현재 토큰의 의미를 가장 잘 설명하는 문맥적 정보를 동적으로 추출하는 메커니즘이다. 이는 입력 데이터의 각 요소가 서로 어떤 연관성을 가지고 있는지를 파악함으로써, 문장 내의 …
Transformer-XL 1. 개요 Transformer-XL(Extra Long Transformer)은 기존 Transformer 모델의 고정된 컨텍스트 길이 제한을 극복하기 위해 제안된 대규모 언어 모델 아키텍처로, 세그먼트 수준의 재귀 메커니즘을 통해 매우 긴 의존성(Long-term dependency)을 학습할 수 있도록 설계된 모델이다. 기존…
VAE (Variational Autoencoder, 변이형 오토인코더) 1. 개요 VAE(Variational Autoencoder)는 입력 데이터의 확률 분포를 학습하여 새로운 데이터를 생성할 수 있도록 설계된 생성 모델(Generative Model)이자 확률론적 그래픽 모델입니다. 기본적인 오토인코더(Autoencoder, AE)가 입력 데이터를 특…
축 확장 (Axis Expansion) 1. 개요 축 확장(Axis Expansion)이란 다차원 배열이나 텐서(Tensor)의 실제 데이터 값은 유지한 채, 새로운 차원(Dimension)을 추가하여 배열의 형태(Shape)를 변경하는 데이터 변환 기법이다. 데이터 과학 및 선형 대수학에서 축 확장은 주로 서로 다른 차원을 가진 데이터 간의 연산을 가능하…
L2 정규화 개요 L2 정규화(2 Regularization), 또는 리지 정규화(Ridge Regularization), 중치 감소(Weight Decay)는 머신러닝 및 딥러닝 모델에서 과적합(Overfitting)을 방지하기 위해 사용되는 대표적인 정규화 기법 중 하나입니다. 이 방법은 모델의 가중치에 제약을 가하여 복잡성을 줄이고, 학습 데이터에 지…
모델 제약 (Model Constraints) 1. 개요 모델 제약(Model Constraints)이란 머신러닝 및 딥러닝 모델의 학습 과정이나 추론 단계에서 모델의 파라미터, 구조, 또는 출력값이 특정 범위나 조건을 만족하도록 강제하는 제한 사항을 의미한다. 인공지능 모델에서 제약 조건이 필요한 주요 이유는 다음과 같다. 과적합(Overfitting) …
순환 구조 (Recurrent Structure) 1. 개요 순환 구조(Recurrent Structure)란 신경망의 은닉층(Hidden Layer)에서 생성된 출력이 다시 자기 자신 혹은 이전 층의 입력으로 되돌아오는 연결 구조를 가진 신경망 형태를 의미한다. 일반적인 피드포워드(Feed-forward) 신경망은 입력층에서 출력층 방향으로 정보가 한 방…
Swish 활성화 함수 1. 개요 Swish는 Google Brain 팀이 제안한 자기 게이팅(Self-Gating) 메커니즘 기반의 비선형 활성화 함수로, 깊은 신경망에서 ReLU(Rectified Linear Unit)보다 더 나은 성능을 보이기 위해 설계되었습니다. Swish 함수는 입력값 에 시그모이드(Sigmoid) 함수를 곱한 형태로 정의되며, …
모델 제약 조건 (Model Constraints) 1. 개요 모델 제약 조건(Model Constraints)이란 인공지능 모델이 학습하거나 추론하는 과정에서 반드시 준수해야 하는 수학적, 물리적, 또는 논리적 제한 사항을 의미한다. 단순히 데이터의 패턴을 학습하는 것을 넘어, 모델이 생성하는 결과물이 현실 세계의 물리 법칙을 위배하지 않게 하거나, 시스…
과적합 (Overfitting) 1. 개요 과적합(Overfitting)이란 머신러닝 모델이 학습 데이터(Training Data)에 지나치게 최적화되어, 새로운 데이터나 실제 환경의 데이터(Unseen Data)에 대해서는 예측 성능이 현저히 떨어지는 현상을 말한다. 모델이 데이터의 일반적인 패턴을 학습하는 것이 아니라, 학습 데이터에 포함된 무작위한 노…
Adam Optimizer (Adaptive Moment Estimation) 1. 개요 Adam(Adaptive Moment Estimation)은 딥러닝 모델의 가중치를 최적화하기 위해 사용되는 경사 하강법(Gradient Descent) 기반의 최적화 알고리즘으로, 모멘텀(Momentum)과 RMSProp의 장점을 결합하여 각 파라미터마다 학습률을 적…
스펙트럼 정규화 (Spectral Normalization) 1. 개요 스펙트럼 정규화(Spectral Normalization)는 신경망의 가중치 행렬의 스펙트럼 노름(Spectral Norm)을 1로 제한하여, 함수가 립시츠 연속성(Lipschitz Continuity)을 갖도록 강제하는 정규화 기법이다. 이 기법은 주로 생성적 적대 신경망(GAN)의 …
딥러닝 기반 언어 모델 (Deep Learning-based Language Model) 1. 개요 딥러닝 기반 언어 모델은 인공신경망을 이용하여 단어 시퀀스의 확률 분포를 학습함으로써, 주어진 텍스트 다음에 올 단어를 예측하거나 문장의 의미를 수치적으로 표현하는 인공지능 모델이다. 과거의 통계적 방식에서 벗어나 대규모 데이터와 심층 신경망을 결합함으로써 …