MIG (Multi-Instance GPU) MIG(Multi-Instance GPU)는 NVIDIA Ampere 아키텍처 이후의 GPU에서 지원하는 하드웨어 수준의 GPU 분할 기술입니다. 하나의 물리적 GPU를 여러 개의 독립적인 GPU 인스턴스로 나누어, 각 인스턴스가 전용 컴퓨팅 리소스와 메모리를 갖도록 함으로써 효율적인 리소스 활용과 엄격한 격리를…
검색 결과
"NVIDIA Ampere"에 대한 검색 결과 (총 3개)
희소 모델 (Sparse Model) 1. 개요 희소 모델(Sparse Model)이란 신경망의 파라미터(가중치)나 활성화 값(Activation) 중 상당수가 0이 되어, 실제 연산에 참여하는 유효 파라미터의 비율이 낮은 인공지능 모델을 의미한다. 이는 모든 파라미터가 0이 아닌 값으로 채워져 매 연산마다 모든 가중치를 계산하는 밀집 모델(Dense Mo…
반정밀도 (Half-Precision) 반정밀도(Half-Precision)는 부동소수점 숫자를 표현하기 위해 16비트(2바이트)의 메모리 공간을 사용하는 데이터 형식입니다. 일반적으로 FP16(Floating Point 16) 또는 IEEE 754-2008 표준의 binary16 형식으로 불립니다. 전통적인 컴퓨팅 환경에서는 32비트 부동소수점인 단정밀도…