트랜스포머 개요 트랜스포머(Transformer)는 자연어처리LP) 분야 혁신적인 영향을 미친 딥러닝 아키텍처로, 2017년글과 빌런드 연구소의 연구자들이 발표한 논문 "Attention is All You Need"에서 처음 소개되었습니다. 기존의 순차적 처리 방식을 기반으로 한 순환신경망(RNN)이나 합성곱신경망(CNN)과 달리, 트랜스포머는 어텐션 메…
검색 결과
"피드포워드 네트워크"에 대한 검색 결과 (총 7개)
드롭아웃 (Dropout) 개요 드롭아웃(Dropout)은 인공지능(AI) 분야에서 네트워크 과적합(overfitting)을 방지하기 위한 정규화 기법으로, 신경망의 훈련 중 일부 뉴런을 무작위로 비활성화하는 방법이다. 이 기법은 2014년 제프리 힌턴(Jeffrey Hinton) 등이 발표한 논문에서 처음 소개되었으며, 현재 딥러닝 모델의 일반적인 성능 …
GPT-3.5 개요 GPT-3.5는 OpenAI에서 개발한 대규모 언어 모델(Large Language Model, LLM)로, GPT-3 이후의 개선 버전에 해당하는 모델군을 지칭합니다. 정식 명칭은 공개되지 않았으나, OpenAI의 API 및 제품에서 사용되는 모델 중 하나로, 특히 ChatGPT의 초기 버전에 기반을 두고 있습니다. GPT-3.5는 자…
어텐션 메커니즘 개요 어텐션 메커니즘(Attention Mechanism)은 인공지능, 특히 딥러닝 기반의 자연어 처리(NLP), 컴퓨터 비전, 음성 인식 등 다양한 분야에서 핵심적인 역할을 하는 신경망 구성 요소입니다. 이 메커니즘은 모델이 입력 데이터의 특정 부분에 더 집중(attention)하도록 유도함으로써, 전체 정보를 균등하게 처리하는 기존 모델…
RNN (Recurrent Neural Network) 개요 RNN(Recurrent Neural Network, 순환 신경망)은 시계열 데이터나 순적 데이터(sequence data)를 처리하기 위해 설계된 딥러 기반 신경망 모델입니다. 일반적인 피포워드 신경망(Feed Neural Network)이 입력 데이터를 독립적인 단위로 간주하는 반면, RNN은…
ViT (Vision Transformer 개요 ViT(V Transformer)는 전통적인 컨루션 신경(Convolutional Neural Network,) 대신 랜스포머(Transformer 아키텍처를 기으로 이미지 인식 작업을 수행하는 컴퓨터비전 모델입니다. 2020년글 딥마인드(Google Brain) 팀이 발표한 논문 "An Image is Wo…
MLP 개요 MLP(Multi-Layer Perptron, 다층 퍼셉트론)은 인공신경망(Artificial Neural Network, ANN)의 가장 기본적이고 널리 사용되는 형태 중 하나입니다 단일 퍼셉트론은 선형적으로 분리 가능한 문제만 해결할 수 있지만, MLP는 여러 개의 은닉층(Hidden Layers)을 포함함으로써 비선형 문제를 해결할 수 있…