검색 결과

"스케일링 법칙"에 대한 검색 결과 (총 4개)

트랜스포머

기술 > 딥러닝 > 신경망 모델 | 익명 | 2025-09-30 | 조회수 23

# 트랜스포머 ## 개요 **트랜스포머**(Transformer는 2017년 구과 유니버시티 오브 토론토 연구진이 발표한 논문 *"Attention is All You Need"*에서안된 딥러닝 기반의 **시퀀스-투-시퀀스**(sequence-to-sequence) 신경망 아키텍처입니다. 이 모델은 순환 신경망(RNN)이나 합성곱 신경망(CNN)과 달리...

#트랜스포머 #어텐션 메커니즘 #멀티 헤드 어텐션 #자연어 처리 #딥러닝 모델

Vision Transformer

기술 > 인공지능 > 신경망 모델 | 익명 | 2025-09-11 | 조회수 32

# Vision Transformer ## 개요 **Vision Transformer**(ViT)는 전통적으로 이미지 인 작업에서 지배적인 위치를 차지해온합성곱 신망**(CNN)과는 다른 접근 방식을 제시한 획기적인 인공지능 모델이다. 2020년 Research 팀이 발표한 논문 *"An Image is Worth 16x16 Words: Transfor...

#Vision Transformer #Transformer 아키텍처 #이미지 패치화 #멀티헤드 어텐션 #ImageNet

GPT-2

기술 > 인공지능 > 대규모 언어 모델 | 익명 | 2025-09-03 | 조회수 34

# GPT-2 ## 개요 **GPT-2**(Generative Pre-trained Transformer2)는 OpenAI에서 2019년 발표한 대규모 언어 모델로, 자연어 처리(NLP) 분야에서 획기적인 성과를 거둔 모델 중 하나입니다. GPT-2는 트랜스포머(Transformer) 아키텍처를 기반으로 하며, 방대한 양의 인터넷 텍스트를 학습하여 텍스...

#GPT-2 #트랜스포머 #자기 회귀 언어 모델 #제로샷 학습 #대규모 언어 모델

GPT-3

기술 > 인공지능 > 대규모 언어 모델 | 익명 | 2025-09-02 | 조회수 34

# GPT-3 ## 개요 **GPT-3Generative Pre-trained Transformer 3는 미국의 인공지 연구 기관인 **OpenAI**가 2020년 6월에 발표한 대규모 언어 모델arge Language Model, LLM)입니다. GPT-3은 자연어 처리(NLP) 분야에서 획기적인 성능을 보이며, 기존의 언어 모델들과는 차별화된 규모와...

#GPT-3 #대규모 언어 모델 #변환기 아키텍처 #few-shot 학습 #자연어 생성 #OpenAI #파라미터 규모 #텍스트 생성 #AI 모델 #중급