AMD Instinct MI300 1. 개요 AMD Instinct MI300은 AMD가 설계한 데이터센터용 고성능 컴퓨팅(HPC) 및 인공지능(AI) 가속기로, 차세대 CDNA 3 아키텍처를 기반으로 한 칩렛(Chiplet) 설계의 정점을 보여주는 제품군이다. 본 제품은 거대 언어 모델(LLM)의 학습 및 추론, 복잡한 과학적 시뮬레이션 등 막대한 연산량…
검색 결과
"Context Window"에 대한 검색 결과 (총 7개)
문맥 의존성 (Context Dependency) 문맥 의존성(Context Dependency)은 자연어 처리(Natural Language Processing, NLP) 및 언어학에서 단어나 문장의 의미가 주변 환경(문맥)에 따라 달라지는 현상을 지칭하는 개념입니다. 인간의 언어는 고정된 사전적 정의만으로는 완전한 의미를 전달하기 어렵기 때문에, 문맥을…
토큰 (Token) 토큰(Token)은 컴퓨팅 및 언어 처리 분야에서 원시 데이터 스트림을 의미 있는 최소 단위인 '토큰'으로 분할하는 과정을 지칭합니다. 이는 주로 프로그래밍 언어의 컴파일 과정인 렉싱(Lexing)이나 자연어 처리(NLP)의 전처리 단계에서 핵심적인 역할을 수행합니다. 토큰은 문맥에 따라 문자, 단어, 구절, 또는 특수 기호 등 다양한 …
동시출현 행렬 개요 동시출현 행렬(Co-occurrence Matrix)은 자연어처리(NLP) 분야에서 언어의 통계적 구조를 분석하고 단어 간의 의미적 관계를 모델링하는 데 사용되는 중요한 데이터 구조입니다. 이 행렬은 특정한 문맥 내에서 두 단어가 함께 등장하는 빈도를 기록하며, 단어의 분포 가설(Distributional Hypothesis) — "비슷…
공출현 행렬 개요 공출 행렬(Co-occurrence)은 자연어처리(Natural Language Processing, NLP) 분야에서 언어의 통계적 구조를 분석하고 단어 간의 의미적 관계를 모델링하는 데 핵심적으로 사용되는 데이터 구조이다. 이 행렬은 특정한 문맥 창(window) 내에서 함께 등장하는 단어들의 빈도를 기록함으로써, 언어의 분포 가설(D…
GPT-4 개요 GPT-4enetic Pre-trained Transformer 4)는 미국의 인공지능 연구 기업인 OpenAI가발한 대모 언어 모델(Large Language Model, LLM)의 네 번째 주요 버전으로,2023년 3월에 공개되었습니다. 이 모델은 자연어 처리, 생성, 이해 등 다양한 언어 과제에서 인간 수준에 근접한 성능을 보이며, 이…
CBOW (Continuous Bag‑of‑Words) 모델 개요 CBOW(Continuous Bag‑of‑Words)는 워드 임베딩(word embedding)을 학습하기 위한 대표적인 신경망 모델 중 하나이며, Word2Vec 프레임워크에서 제시된 두 가지 기본 아키텍처(다른 하나는 Skip‑gram) 중 첫 번째 모델이다. 입력으로 주변 단어(cont…