TensorRT ## 개요 **TensorRT**(텐서는 엔비디아(NVIDIA)에서 개발한 고성능 딥러닝 추론 최적화 프레임워크로, 딥러닝 모델의 **추론**(inference) 단계에서 높은 처리 속도와 효율을 제공하기 위해 설계된 소프트웨어 라이브러리입니다. 주로 실시간 응용 프로그램(예: 자율주행, 영상 인식, 음성 인식 등)에서 사용되며, 다양한...

# ONNX Runtime ONNX은 오픈 뉴럴 네트워 교환(Open Neural Network Exchange, ONNX) 형식으로 표현된 머신러닝 및 딥러닝델을 고성능으로 실행하기 위한 크로스플랫폼 추론 엔진입니다. 마이크로소프트에서 주도적으로 개발하고 있으며, 산업계와 학계에서 널리 사용되고 있습니다. ONNX Runtime은 다양한 하드웨어 플랫폼...

# Edge TPU ## 개요 **Edge TPU**(Tensor Processing Unit)는글(Google)이 개발한 특수 목적 애플리케이션별 집적회로(ASIC)로, **엣지(edge)에서의 머신러닝 추론**(inference)을 고속으로 처리하기 위해 설계된 하드웨어 가속기입니다. 이 칩은 클라우드가 아닌 로컬 장치(예: 스마트폰, IoT 기기,...