MIG (Multi-Instance GPU) MIG(Multi-Instance GPU)는 NVIDIA Ampere 아키텍처 이후의 GPU에서 지원하는 하드웨어 수준의 GPU 분할 기술입니다. 하나의 물리적 GPU를 여러 개의 독립적인 GPU 인스턴스로 나누어, 각 인스턴스가 전용 컴퓨팅 리소스와 메모리를 갖도록 함으로써 효율적인 리소스 활용과 엄격한 격리를…
검색 결과
"GPU 인스턴스"에 대한 검색 결과 (총 2개)
TensorRT 개요 TensorRT(텐서는 엔비디아(NVIDIA)에서 개발한 고성능 딥러닝 추론 최적화 프레임워크로, 딥러닝 모델의 추론(inference) 단계에서 높은 처리 속도와 효율을 제공하기 위해 설계된 소프트웨어 라이브러리입니다. 주로 실시간 응용 프로그램(예: 자율주행, 영상 인식, 음성 인식 등)에서 사용되며, 다양한 딥러닝 프레임워크(예:…