# GPT ## 개요 **GPT**(Generative Pre-trained Transformer)는 오픈AI(OpenAI)에서발한 자연어 처리(NLP) 분야의 대표적인 언어 모델 시리즈로, 트랜스포머(Transformer) 아키텍처를 기반으로 한 생성형 사전 훈련 모델입니다. GPT는 대량의 텍스트 데이터를 이용해 사전 훈련된 후, 특정 작업에 맞게 ...
검색 결과
"Fine-tuning"에 대한 검색 결과 (총 48개)
# BERT ##요 BERT(Bidirectional Encoder Represent from Transformers)는글(Google)이 018년에 발표한 자연어 처리(N) 분야의 획기적인 언어 모델이다.ERT는 이전의 단방향 언어 모들과 달리 **방향 맥락**(bidirectional context)을 학습함으로써 단어의 의미를 보다 정확하게 이해할...
GPT ##요 GPT(Generative Pre-trained)는 오픈AI(OpenAI에서 개발한 **대규모 언어 모델**(Large Language Model, LLM) 시리즈로, 자연어를 생성하고 이해하는 데 특화된 딥러닝 기반의 인공지능 모델입니다. GPT는 **변환기**(Transformer) 아키텍처를 기반으로 하며, 방대한 양의 텍스트 데이터...
GPT ##요 **G**(Generative Pre-trained Transformer)는 오픈AI(OpenAI에서 개발한 대규모 언어 모델(Large Language Model, LLM) 시리즈로, 자연어를 생성하고 이해하는 데 특화된 딥러닝 기반의 신경망 아키텍처입니다. GPT 트랜스포머(Transformer) 아키텍처를 기반으로 하며, 방대한 텍스...
# Large Language Model ## 개요 **Large Language Model**(대규모 언어 모델, 이하 LLM)은 자연어를 이해하고 생성할 수 있도록 설계된 심층 신경망 기반의 인공지능 모델로, 수십억에서 수조 개의라미터를진 대규모 구조를징으로 합니다. 이 모델들은 방대한 양의 텍스트 데이터를 기반으로 사전 학습(pre-training...
# Masked Language Modeling ## 개요 Masked Language Modeling(MLM)은 자연어 처리(NLP) 분야에서 사용되는 자기지도 학습(Self-Supervised Learning) 기법으로, 언어 모델을 사전 훈련(Pre-Training)하는 데 핵심적인 역할을 합니다. 이 기법은 입력 텍스트의 일부 토큰을 무작위로 마스...
# 미세조정 ## 개요 **미세조정**(Fine-tuning)은 사전 훈련된 머신러닝 모델을 특정 작업이나 도메인에 맞게 세부적으로 조정하는 기법입니다. 일반적으로 대규모 데이터셋으로 훈련된 모델(예: ImageNet, BERT)을 기반으로 하여, 새로운 작업에 필요한 작은 데이터셋으로 추가 훈련을 진행합니다. 이는 **전이 학습**(Transfer Le...
# Qwen3 ## 개요 Qwen3는 알리바바 클라우드(Alibaba Cloud)에서 개발한 대형 언어 모델(Large Language Model)로, 알리바바 그룹의 초대규모 언어 모델 시리즈인 Qwen의 세 번째 주요 버전입니다. 이 모델은 자연어 처리, 코드 생성, 멀티모달 이해 등 다양한 작업에서 뛰어난 성능을 발휘하며, 기업 및 개인 사용자에게 ...