인공지능 개요 인공지능Artificial Intelligence, AI)은 인간의 지능을 모방하거나 이를월하는 기계적 시스템을 설계하고 구현하는 컴퓨터 과학의 한 분입니다. 인공지능은 인간이 보이는 사고, 학습, 추론, 인식, 문제 해결, 의사 결정 등의 능력을 소프트웨어나 하드웨어를 통해 재현하는 것을 목표로 합니다. 최근 수십 년간 컴퓨팅 성능의 비약적…
검색 결과
"스케일링 법칙"에 대한 검색 결과 (총 6개)
사전 학습 (Pre-training) 개요 사전 학습(Pre-training)은 인공지능, 특히 딥러닝 모델 개발 파이프라인에서 가장 초기이자 핵심적인 단계로, 방대한 양의 일반 데이터셋을 활용하여 모델이 세계에 대한 기본적인 지식과 패턴을 학습시키는 과정입니다. 이 단계에서 훈련된 모델은 특정 작업에 최적화되지 않은 '기반 모델(Foundation Mod…
트랜스포머 개요 트랜스포머(Transformer는 2017년 구과 유니버시티 오브 토론토 연구진이 발표한 논문 "Attention is All You Need"에서안된 딥러닝 기반의 시퀀스-투-시퀀스(sequence-to-sequence) 신경망 아키텍처입니다. 이 모델은 순환 신경망(RNN)이나 합성곱 신경망(CNN)과 달리 전혀 다른 접근 방식을 취하며…
Vision Transformer 개요 Vision Transformer(ViT)는 전통적으로 이미지 인 작업에서 지배적인 위치를 차지해온합성곱 신망(CNN)과는 다른 접근 방식을 제시한 획기적인 인공지능 모델이다. 2020년 Research 팀이 발표한 논문 "An Image is Worth 16x16 Words: Transformers for Image…
GPT-2 개요 GPT-2(Generative Pre-trained Transformer2)는 OpenAI에서 2019년 발표한 대규모 언어 모델로, 자연어 처리(NLP) 분야에서 획기적인 성과를 거둔 모델 중 하나입니다. GPT-2는 트랜스포머(Transformer) 아키텍처를 기반으로 하며, 방대한 양의 인터넷 텍스트를 학습하여 텍스트 생성, 질문 응답…
GPT-3 개요 GPT-3Generative Pre-trained Transformer 3는 미국의 인공지 연구 기관인 OpenAI가 2020년 6월에 발표한 대규모 언어 모델arge Language Model, LLM)입니다. GPT-3은 자연어 처리(NLP) 분야에서 획기적인 성능을 보이며, 기존의 언어 모델들과는 차별화된 규모와 능력을 갖추고 있습니다…