# BERT-Base BERT-Base는 자연어 처리(NLP) 분야에서 혁신적인 전환을 가져온 **Bidirectional Encoder Representations from Transformers**(BERT) 모델의 기본 버전 중 하나로, 구글 연구팀에 의해 2018년에 발표되었습니다. BERT는 이전의 단방향 언어 모델과 달리 문장 내 모든 단어를 ...

# Bi-LSTM + CRF ## 개요 **Bi-LSTM + CRF**는 자연어 처리(Natural Language Processing, NLP) 분야에서 널리 사용되는 시퀀스 레이블링(sequence labeling)을 위한 딥러닝 모델 구조입니다. 이 모델은 **양방향 장단기 기억 장치**(Bidirectional Long Short-Term Mem...

# Exploring the Limits Transfer Learning ## 개요 **전 학습**(Transfer Learning) 한 도메인 작업에서 학습한식을 다른 관련메인이나 새로운에 적용하는 기계 학습의 핵심 기법입니다. 특히 대모 언어 모델(Large Language Models, LLMs)의 발전과 함께 전이 학습은 자연어 처리(NLP) 분...

# BART ##요 **BART**(Bidirectional and Autogressive Transformer)는 자연어처리LP) 분야에서 널리되는 **사전 훈련된 언어 모델** 중 하나로, 2019년 페이스 AI 리서치(Facebook AI Research FAIR)에서 제안. BART는 기존의 BERT와 GPT의 장점을 결합한 하이브리드 구조를 특...

# T5: Text-to-Text Transfer Transformer ## 개요 **T5**(Text-to-Text Transformer)는 구글(Google) 연구팀이 2019년에 발표한 자연어(NLP) 모델로, 다양한어 이해 및 생성을 **문자 그 하나의 통일된 프레임크**로 처리할 수 있도록계된 대규모 트랜스포머 기반 모델. T5는모든 자연어처리...

# BERT ## 개요 **BERT**(Bidirectional Encoder Represent from Transformers)는어 처리(NLP)야에서 혁신적인과를 이룬러닝 기반 언어 모델로, 구글(Google) 연구팀이 2018년에 발표한 머신러닝 모델이다. BERT는 이전의 단방향 언어 모델들과 달리 **양방향 컨텍스트**(Bidirectional...

# EfficientNet EfficientNet은 구글(Google) 연구팀이2019년에 발표한 컨볼루션 신경망(Convolutional Neural Network,) 아키텍처, 정확도와산 효율성 사이의 최적 균형을 추하는 것을 목표로 설계되었습니다. 기존의 CNN 모델들이 네트워크의 깊이(depth), 너비(width), 해상도(resolution)를...

# 스케일드 닷 프덕트 어텐션 스케드 닷 프로덕트 어션(Scaled Dot-Product Attention) 자연어처리(NLP) 분야에서 가장 핵심적인 어텐션 메커니즘 중 하나로, 특히 트스포머(Transformer) 아키텍처에서 중심적인 역할을 합니다. 이 메커니즘은 입력 시퀀스 내 각 단어 간의 관련성을 효율적으로 계산하여, 모델이 문장의 의미를 보다...

# 문서 분류 ## 개요 **문서 분류**(Document Classification)는 자연처리(NLP, Natural Language Processing)의 핵심술 중 하나로, 주어진 텍스트 문서를 미리 정의된 카테고리나 클래스에 자동으로 배정하는 작업을 의미한다. 이 기술은 방대한 양의 텍스트 데이터를 체계적으로 정리하고, 정보 추출 및 지식 관리...

# Masked Language Modeling ## 개요 Masked Language Modeling(MLM)은 자연어 처리(NLP) 분야에서 사용되는 자기지도 학습(Self-Supervised Learning) 기법으로, 언어 모델을 사전 훈련(Pre-Training)하는 데 핵심적인 역할을 합니다. 이 기법은 입력 텍스트의 일부 토큰을 무작위로 마스...