NPU (신경망 처리 장치) 1. 개요 NPU(Neural Processing Unit, 신경망 처리 장치)는 인간의 뇌 신경망을 모방한 인공신경망(Artificial Neural Network)의 연산을 효율적으로 처리하기 위해 설계된 AI 전용 가속기(Hardware Accelerator)이다. 딥러닝의 핵심인 대규모 행렬 연산을 빠르게 수행하도록 최적…
검색 결과
검색어를 입력하세요.
IoT 기기 (Internet of Things Devices) 1. 개요 IoT 기기(사물인터넷 기기)란 물리적인 사물에 센서, 소프트웨어, 통신 기능을 내장하여 인터넷에 연결함으로써 데이터를 주고받고 스스로 제어하거나 외부에서 원격으로 조작할 수 있는 지능형 장치를 의미한다. 전통적인 전자기기가 사용자의 직접적인 입력(버튼 클릭, 터치 등)에 의해서만 …
휴대용 전자기기 (Portable Electronic Devices) 1. 개요 휴대용 전자기기란 전력 공급원(배터리)을 내장하여 사용자가 장소를 이동하며 사용할 수 있도록 소형화, 경량화되어 설계된 전자 장치를 의미한다. 이러한 기기들은 외부 전원 연결 없이 작동할 수 있는 내장 배터리를 갖추고 있으며, 저전력 설계와 고집적 회로 기술을 통해 이동성과 기…
경량 모델링 (Lightweight Modeling) 1. 개요 경량 모델링이란 딥러닝 모델의 파라미터 수와 연산량을 줄여 메모리 사용량을 최소화하고 추론 속도를 향상시키면서도, 모델의 예측 성능(Accuracy) 하락을 최소화하는 최적화 기술 전반을 의미한다. 이는 이미 학습된 기존 모델의 크기를 줄이는 모델 압축(Model Compression) 기술뿐…
머신러닝 추론 가속기 (ML Inference Accelerator) 1. 개요 머신러닝 추론 가속기란 학습이 완료된 머신러닝 모델을 사용하여 입력 데이터에 대한 예측 결과(추론)를 도출하는 과정을 최적화하고 속도를 높이기 위해 설계된 전용 하드웨어 및 소프트웨어 시스템을 의미한다. 머신러닝의 생명주기는 크게 학습(Training)과 추론(Inference…
TensorFlow Lite (TFLite) 개요 TensorFlow Lite(TFLite)는 구글에서 개발한 오픈소스 모바일 및 엣지 디바이스용 딥러닝 추론 프레임워크로, 제한된 컴퓨팅 자원을 가진 환경에서 머신러닝 모델을 효율적으로 실행하는 것을 목적으로 합니다. 일반적인 딥러닝 모델은 방대한 파라미터와 연산량으로 인해 서버급 GPU 환경이 필요하지만,…