머신러닝 추론 가속기 (ML Inference Accelerator) 1. 개요 머신러닝 추론 가속기란 학습이 완료된 머신러닝 모델을 사용하여 입력 데이터에 대한 예측 결과(추론)를 도출하는 과정을 최적화하고 속도를 높이기 위해 설계된 전용 하드웨어 및 소프트웨어 시스템을 의미한다. 머신러닝의 생명주기는 크게 학습(Training)과 추론(Inference…
검색 결과
"온디바이스 AI"에 대한 검색 결과 (총 6개)
HBM (고대역폭 메모리, High Bandwidth Memory) 개요 HBM(High Bandwidth Memory, 고대역폭 메모리)은 여러 개의 DRAM(Dynamic Random Access Memory) 칩을 수직으로 적층하고, 이를 TSV(Through Silicon Via)라는 통로로 연결하여 데이터 전송 속도를 획기적으로 높인 고성능 메모리…
희소 모델 (Sparse Model) 1. 개요 희소 모델(Sparse Model)이란 신경망의 파라미터(가중치)나 활성화 값(Activation) 중 상당수가 0이 되어, 실제 연산에 참여하는 유효 파라미터의 비율이 낮은 인공지능 모델을 의미한다. 이는 모든 파라미터가 0이 아닌 값으로 채워져 매 연산마다 모든 가중치를 계산하는 밀집 모델(Dense Mo…
추론 속도 (Inference Speed) 1. 개요 추론 속도(Inference Speed)란 학습이 완료된 AI 모델에 새로운 입력 데이터를 넣었을 때, 모델이 예측 결과(출력)를 내놓기까지 걸리는 시간을 의미한다. AI 모델 서비스(Serving) 단계에서 추론 속도는 서비스의 실용성을 결정짓는 핵심 요소이다. 특히 실시간 상호작용이 필요한 챗봇, 자…
ELECTRA 개요 ELECTRA(Efficiently Learning an Encoder that Classifies Token Replacements Accurately)는 2020년 구글 리서치(Google Research) 팀이 제안한 자연어 처리(NLP) 기반 사전 학습(pre-training) 방법론입니다. 기존 BERT 모델에서 널리 사용되던 …
TensorFlow Lite (TFLite) 개요 TensorFlow Lite(TFLite)는 구글에서 개발한 오픈소스 모바일 및 엣지 디바이스용 딥러닝 추론 프레임워크로, 제한된 컴퓨팅 자원을 가진 환경에서 머신러닝 모델을 효율적으로 실행하는 것을 목적으로 합니다. 일반적인 딥러닝 모델은 방대한 파라미터와 연산량으로 인해 서버급 GPU 환경이 필요하지만,…