AMD EPYC Genoa AMD EPYC Genoa는 AMD(Advanced Micro Devices)가 2022년 11월에 출시한 제3세대 EPYC 서버 프로세서 라인업의 코드명입니다. 이 프로세서는 AMD의 차세대 Zen 4 마이크로아키텍처를 기반으로 하며, AM5 소켓을 사용하여 데스크톱 및 서버 플랫폼 간의 아키텍처 통합을 이루었습니다. Genoa…
검색 결과
"딥러닝 추론"에 대한 검색 결과 (총 8개)
x86_64 x86_64(또는 x64, AMD64)은 x86 명령어 집합 아키텍처(x86 ISA)의 64비트 확장 버전으로, 32비트 x86 아키텍처를 기반으로 하면서도 64비트 연산과 더 넓은 주소 공간을 지원하는 프로세서 아키텍처이다. 이 아키텍처는 현대의 데스크톱, 서버, 워크스테이션 등 대부분의 개인 컴퓨터와 클라우드 인프라에서 널리 사용되고 있으며…
Basic Linear Algebra Subprograms Basic Linear Algebra Subprograms(BL)는 선형대수 계을 위한 기본적인 연산들을 표화한 인터페이스 사양이다. BLAS는 벡터와렬의 덧셈 스칼라 곱, 내적, 행렬-벡터 곱, 행렬-행렬 곱 등과 같은 수치 선형대수의 핵심 연산들을 정의하며, 과학 계산, 머신러닝, 공학 시뮬레이…
DLSS (Deep Learning Super Sampling) 1. 개요 DLSS(Deep Learning Super Sampling)는 NVIDIA가 개발한 딥러닝 기반의 이미지 업스케일링 기술로, 낮은 해상도에서 렌더링된 이미지를 AI를 통해 고해상도로 복원하여 게임의 시각적 품질을 유지하면서 프레임 속도(FPS)를 획기적으로 향상시키는 기술이다. 기…
DSP 슬라이스 개요 DSP 슬라이스(DSP Slice)는 FPGA(Field-Programmable Gate Array, 현장 프로그래머블 게이트 배열) 내에 내장된 특수한 하드웨어 블록으로, 고속의 산술 연산, 특히 디지털 신호 처리(Digital Signal Processing, DSP) 작업을 효율적으로 수행하기 위해 설계되었습니다. 일반적인 논리 …
TensorFlow Lite (TFLite) 개요 TensorFlow Lite(TFLite)는 구글에서 개발한 오픈소스 모바일 및 엣지 디바이스용 딥러닝 추론 프레임워크로, 제한된 컴퓨팅 자원을 가진 환경에서 머신러닝 모델을 효율적으로 실행하는 것을 목적으로 합니다. 일반적인 딥러닝 모델은 방대한 파라미터와 연산량으로 인해 서버급 GPU 환경이 필요하지만,…
TensorRT 개요 TensorRT(텐서는 엔비디아(NVIDIA)에서 개발한 고성능 딥러닝 추론 최적화 프레임워크로, 딥러닝 모델의 추론(inference) 단계에서 높은 처리 속도와 효율을 제공하기 위해 설계된 소프트웨어 라이브러리입니다. 주로 실시간 응용 프로그램(예: 자율주행, 영상 인식, 음성 인식 등)에서 사용되며, 다양한 딥러닝 프레임워크(예:…
NEON 레지스터 NEON 레지스터는 ARM 아키텍에서 제공하는 고성능 SIMDingle Instruction, Multiple Data) 확장능의 핵심 구성 요소, 멀티미어 처리, 신호 처리 머신 러닝 등 데이터 병렬 요구하는 작업을 효율적으로 수행할 수 있도록 설계되었습니다. NE 기술은 ARMv7-A 및v8-A 아키텍처 이상에서되며, 특히 모바 기기와…