TensorRT ## 개요 **TensorRT**(텐서는 엔비디아(NVIDIA)에서 개발한 고성능 딥러닝 추론 최적화 프레임워크로, 딥러닝 모델의 **추론**(inference) 단계에서 높은 처리 속도와 효율을 제공하기 위해 설계된 소프트웨어 라이브러리입니다. 주로 실시간 응용 프로그램(예: 자율주행, 영상 인식, 음성 인식 등)에서 사용되며, 다양한...
검색 결과
"FP16"에 대한 검색 결과 (총 3개)
# cuBLAS **cuBLAS**(CUDA Basic Linear Algebraprograms)는 NVIDIA에서 개발 GPU 기반의성능 선형대수 라이브러리로 CUDA 플랫폼에서 실행되는 C/C++ 및 Fortran 애플리케이션 대해 BLAS(B Linear Algebra Subprograms) 표준을 구현한 소프트웨어 라이브러리. 이 라이브러리는 행렬...
GPU ## 개 **GPU**(Graphics Processing Unit, 그래픽 처리 장치)는 컴퓨터에서 그래픽 데이터를 처리하고 화면에 시각적으로 출력하는 데 특화된 전자 회로입니다. 원래는 3D 그래픽 렌더링과 게임, 영상 편집 등 시각 콘텐츠 생성을 위한 하드웨어로 개발되었으나, 최근에는 인공지능(AI), 과학 시뮬레이션, 암호화폐 채굴 등 고...