반정밀도 (Half-Precision) 반정밀도(Half-Precision)는 부동소수점 숫자를 표현하기 위해 16비트(2바이트)의 메모리 공간을 사용하는 데이터 형식입니다. 일반적으로 FP16(Floating Point 16) 또는 IEEE 754-2008 표준의 binary16 형식으로 불립니다. 전통적인 컴퓨팅 환경에서는 32비트 부동소수점인 단정밀도…
검색 결과
"RDNA 아키텍처"에 대한 검색 결과 (총 2개)
7nm 공정 개요 7nm 공정(7나노미터 공정)은 반도체 제조에서 트랜지스터의 게이트 길이 또는 특정 특징 치수(feature size)를 기준으로 명명된 첨단 마이크로프로세서 제조 공정 기술을 의미합니다. 이는 반도체 소자의 미세화 수준을 나타내는 지표로, 7nm는 약 7나노미터(10억 분의 1미터)의 스케일에서 트랜지스터를 설계하고 제작할 수 있음을 나…