자기-어텐션 (Self-Attention) 1. 개요 자기-어텐션(Self-Attention)은 입력 시퀀스 내의 각 토큰이 동일한 시퀀스 내의 다른 모든 토큰과의 관계를 계산하여, 현재 토큰의 의미를 가장 잘 설명하는 문맥적 정보를 동적으로 추출하는 메커니즘이다. 이는 입력 데이터의 각 요소가 서로 어떤 연관성을 가지고 있는지를 파악함으로써, 문장 내의 …
검색 결과
"메모리 계층 구조"에 대한 검색 결과 (총 9개)
BLIS Framework BLIS Framework(BL-like Library Instantiation Software)는 고성능 선형 대수 연산을 위한 오픈소스 소프트웨어 라이브러리로 BLAS(Basic Linear Subprograms)와사한 인터페이스를 제공하면서도 보다 유연하고 최적화된 구현을 가능하게 하는 프레임워크입니다. BLIS는 수치 계산…
CUDA (Compute Unified Device Architecture) CUDA(Compute Unified Device Architecture)는 NVIDIA가 개발한 병렬 컴퓨팅 플랫폼 및 API 모델입니다. GPU(Graphics Processing Unit)가 본래 수행하던 그래픽 렌더링 작업을 넘어, 일반적인 계산 작업(General-Purp…
GPU 개요 GPU(Graphics Processing Unit 그래픽 처리장치)는 이미지 비디오, 애니메이션 등 그래픽 데이터를 빠르고 효율적으로 처리하기 위해 설계된 전용 전자 회로입니다. 초기에는 주로 컴퓨터 그래픽스와 게임 렌더링에 사용되었지만, 현재는 인공지능(AI), 과학 계산, 데이터 분석, 블록체인 등 다양한 분야에서 중요한 역할을 하고 있습…
Basic Linear Algebra Subprograms Basic Linear Algebra Subprograms(BL)는 선형대수 계을 위한 기본적인 연산들을 표화한 인터페이스 사양이다. BLAS는 벡터와렬의 덧셈 스칼라 곱, 내적, 행렬-벡터 곱, 행렬-행렬 곱 등과 같은 수치 선형대수의 핵심 연산들을 정의하며, 과학 계산, 머신러닝, 공학 시뮬레이…
Blackfin 개요 Blackfin은 아나로그디바이스(Analog Devices, Inc.)에서 개발한 고성능 디지털 신호 프로세서(DSP, Digital Signal Processor) 아키텍처로, 실시간 신호 처리와 제어 기능을 동시에 수행할 수 있도록 설계된 하이브리드 아키텍처를 특징으로 합니다. Blackfin 프로세서는 전통적인 DSP의 고속 신…
AMD Optimizing CPU Libraries AMD Optimizing CPU Libraries(이하 AOCL)는 AMD 프로세서의 성능을 극대화하기 위해 특화된 고성능 수학 라이브러리의 집합입니다. 이 라이브러리는 과학 계산, 머신러닝, 데이터 분석, 고성능 컴퓨팅(HPC) 등 다양한 분야에서 활용되는 핵심 수치 연산을 최적화하여, AMD 기반 시…
캐시 계층화 개요 캐시 계층화(Cache Hierarchization)는 소프트웨어 아키텍처에서 성능 최적화를 위해 캐시를 여러 계층(Layer)으로 구성하여 데이터 접근 속도를 극대화하는 전략입니다. 시스템의 성능은 주로 데이터 접근 지연 시간(Latency)과 대역폭(Bandwidth)에 의해 결정되며, 캐시 계층화는 이러한 제약을 완화하기 위해 고안된…
레지스터 개요 레지스터(Register)는 컴퓨터의 중앙처리장치(CPU) 내부에 위치한 매우 빠른 소용량의 기억 장치로, 프로세서가 명령어를 실행하는 동안 데이터를 일시적으로 저장하고 조작하는 데 사용된다. 레지스터는 컴퓨터 아키텍처에서 가장 빠른 수준의 메모리 계층(Memory Hierarchy)에 속하며, 캐시 메모리보다도 접근 속도가 빠르다. CPU가…