GPU 개요 GPU(Graphics Processing Unit 그래픽 처리장치)는 이미지 비디오, 애니메이션 등 그래픽 데이터를 빠르고 효율적으로 처리하기 위해 설계된 전용 전자 회로입니다. 초기에는 주로 컴퓨터 그래픽스와 게임 렌더링에 사용되었지만, 현재는 인공지능(AI), 과학 계산, 데이터 분석, 블록체인 등 다양한 분야에서 중요한 역할을 하고 있습…

NPU (신경망 처리 장치) 1. 개요 NPU(Neural Processing Unit, 신경망 처리 장치)는 인간의 뇌 신경망을 모방한 인공신경망(Artificial Neural Network)의 연산을 효율적으로 처리하기 위해 설계된 AI 전용 가속기(Hardware Accelerator)이다. 딥러닝의 핵심인 대규모 행렬 연산을 빠르게 수행하도록 최적…

경량 모델링 (Lightweight Modeling) 1. 개요 경량 모델링이란 딥러닝 모델의 파라미터 수와 연산량을 줄여 메모리 사용량을 최소화하고 추론 속도를 향상시키면서도, 모델의 예측 성능(Accuracy) 하락을 최소화하는 최적화 기술 전반을 의미한다. 이는 이미 학습된 기존 모델의 크기를 줄이는 모델 압축(Model Compression) 기술뿐…

Basic Linear Algebra Subprograms Basic Linear Algebra Subprograms(BL)는 선형대수 계을 위한 기본적인 연산들을 표화한 인터페이스 사양이다. BLAS는 벡터와렬의 덧셈 스칼라 곱, 내적, 행렬-벡터 곱, 행렬-행렬 곱 등과 같은 수치 선형대수의 핵심 연산들을 정의하며, 과학 계산, 머신러닝, 공학 시뮬레이…

DLSS (Deep Learning Super Sampling) 1. 개요 DLSS(Deep Learning Super Sampling)는 NVIDIA가 개발한 딥러닝 기반의 이미지 업스케일링 기술로, 낮은 해상도에서 렌더링된 이미지를 AI를 통해 고해상도로 복원하여 게임의 시각적 품질을 유지하면서 프레임 속도(FPS)를 획기적으로 향상시키는 기술이다. 기…

반정밀도 (Half-Precision) 반정밀도(Half-Precision)는 부동소수점 숫자를 표현하기 위해 16비트(2바이트)의 메모리 공간을 사용하는 데이터 형식입니다. 일반적으로 FP16(Floating Point 16) 또는 IEEE 754-2008 표준의 binary16 형식으로 불립니다. 전통적인 컴퓨팅 환경에서는 32비트 부동소수점인 단정밀도…

RT 코어 (RT Core) 개요 RT 코어(RT Core)는 엔비디아(NVIDIA)가 개발한 GPU 내장 전용 하드웨어 가속기입니다. 실시간 레이 트레이싱(Ray Tracing) 연산을 가속화하기 위해 설계되었으며, 2018년 출시된 터밍(Turing) 아키텍처부터 본격적으로 탑재되기 시작했습니다. 기존 소프트웨어 기반 렌더링 파이프라인에서는 처리 속도가…

TensorRT 개요 TensorRT(텐서는 엔비디아(NVIDIA)에서 개발한 고성능 딥러닝 추론 최적화 프레임워크로, 딥러닝 모델의 추론(inference) 단계에서 높은 처리 속도와 효율을 제공하기 위해 설계된 소프트웨어 라이브러리입니다. 주로 실시간 응용 프로그램(예: 자율주행, 영상 인식, 음성 인식 등)에서 사용되며, 다양한 딥러닝 프레임워크(예:…

NVIDIA RTX 개요 NVIDIA RTX는 세계적인 반도체 기업인 엔비디아(NVIDIA)가 개발한 고성능 그래픽 처리장치(GPU) 라인업으로, 실시간 레이 트레이싱(real-time ray tracing), 인공지능 기반 그래픽 최적화, 고급 디스플레이 기술 등을 통합한 차세대 그래픽 아키텍처를 기반으로 한다. RTX 브랜드는 2018년에 처음 발표된 …

cuBLAS cuBLAS(CUDA Basic Linear Algebraprograms)는 NVIDIA에서 개발 GPU 기반의성능 선형대수 라이브러리로 CUDA 플랫폼에서 실행되는 C/C++ 및 Fortran 애플리케이션 대해 BLAS(B Linear Algebra Subprograms) 표준을 구현한 소프트웨어 라이브러리. 이 라이브러리는 행렬-벡터 연산,…