MIG (Multi-Instance GPU) MIG(Multi-Instance GPU)는 NVIDIA Ampere 아키텍처 이후의 GPU에서 지원하는 하드웨어 수준의 GPU 분할 기술입니다. 하나의 물리적 GPU를 여러 개의 독립적인 GPU 인스턴스로 나누어, 각 인스턴스가 전용 컴퓨팅 리소스와 메모리를 갖도록 함으로써 효율적인 리소스 활용과 엄격한 격리를…
검색 결과
"GPU"에 대한 검색 결과 (총 204개)
3D 지리 시각화 (3D Geographic Visualization) 1. 개요 3D 지리 시각화란 지구 표면의 지리적 위치 정보에 높이(Altitude/Elevation) 또는 깊이(Depth)라는 세 번째 차원을 추가하여 공간 데이터를 입체적으로 표현하는 기술이다. 기존의 2D 지도가 평면상의 위치와 관계를 나타내는 데 집중했다면, 3D 지리 시각화는…
NVIDIA GeForce GTX 580 1. 개요 NVIDIA GeForce GTX 580은 2010년 11월 NVIDIA에서 출시한 Fermi(페르미) 아키텍처 기반의 하이엔드 그래픽 처리 장치(GPU)이다. 전작인 GTX 480의 설계 결함을 수정하고 공정 미세화를 통해 성능과 전력 효율을 개선한 모델로, 출시 당시 DirectX 11 기반의 고사양 …
확률적 경사 하강법 개요 확적 경사 하강(Stochastic Gradientcent, 이하 SGD은 머신러닝 데이터과학 분야에서 널리 사용되는 최적화 알고리즘 중 하나로, 손실(Loss Function)를 최화하기 위해 모델의 파라미터 반복적으로 업데이트하는 방법입니다. 특히 대규모 데이터셋을 처리할 때 전통적인 경사 하강법(Batch Gradient De…
실시간 데이터 모터링 개요 실 데이터 모니터(Real-time Data Monitoring은 데이터가 생성거나 수집되는 즉시 이를 분석하고 시각화하여 사용자에게 즉각적인 인사이트 제공하는 기술 프로세스를 의미합니다. 특히 데이터학, 사이버안, IoT(사물인터넷), 금 거래, 산업 자동화 등 다양한 분야에서 중요한 역할을 하며, 빠른 의사결정과 이상 탐지, …
이미지 처리 유닛 (Image Processing Unit, IPU) 1. 개요 이미지 처리 유닛(Image Processing Unit, IPU)은 이미지 센서로부터 입력된 가공되지 않은 데이터(Raw Data)를 사람이 인식할 수 있는 고품질의 이미지나 비디오 형태로 변환하기 위해 설계된 전용 하드웨어 가속기이다. 일반적인 [[CPU]](중앙 처리 장치…
PHY 칩 개요 PHY 칩(Physical Layer Chip, 물리계층 칩)은 통신 네트워크에서 데이터 전송의 가장 하위 계층인 물리 계층(Physical Layer)을 담당하는 하드웨어 구성 요소입니다. 이 칩은 디지털 신호를 아날로그 신호로 변환하거나 그 반대로 변환하는 역할을 수행하며, 네트워크 인터페이스 카드(NIC), 라우터, 스위치, 모뎀, I…
하드웨어 기반 변환 (Hardware-based Conversion) 1. 개요 하드웨어 기반 변환이란 데이터의 물리적 형태(신호)나 논리적 구조(포맷/프로토콜)를 변환하는 작업을 범용 CPU의 소프트웨어 명령어가 아닌, 전용 회로(Dedicated Circuitry)나 특수 목적 칩셋을 통해 직접 수행하는 기술을 의미한다. 일반적인 소프트웨어 기반 변환(…
병렬 처리 개요 렬 처리(Parallel Processing)는 하나의 작업을 여러 개의 하위 작업으로 나누어 동시에 수행함으로써 처리 속도를 향상시키는 컴퓨팅 기법이다. 머신러(Machine Learning) 분에서 대량의 데이터를 처리하고잡한 모델을 학습시키는 있어 병렬 처리는 필수적인 기술로 자리 잡고 있다. 머신러닝 알고리즘은 보통 수백만 개의 매개…
TensorFlow TensorFlow는 구글(Google)이 개발한 오픈 소스 기계 학습 및 딥러닝 프레임워크로, 다양한 규모의 머신러닝 모델을 구축하고 훈련하며 배포할 수 있도록 설계된 강력한 도구입니다. 특히 딥러닝 모델의 개발에 널리 사용되며, 연구자와 개발자 모두에게 높은 인기를 끌고 있습니다. TensorFlow는 유연한 아키텍처를 기반으로 하여…
FPGA 개요 PGA(Field-Programmable Gate Array, 현장 프래머블 게이트 어레이)는 사용자가 필요에 따라 하드웨어 수준에서 논리 회로를 재구성할 수 있는도체 장치입니다.는 고정된능을 가진 전통적인 ASIC(Application-Specific Integrated Circuit)과 달리, 프로그래밍을 통해 다양한 디지털 시스템을 구현…
스트리밍 오류 LLM 서비스에서 응답을 받을 수 없습니다. 성능 모니터링 지표 LLM 서비스의 품질을 정량적으로 측정하기 위해 다음과 같은 핵심 성능 지표(KPI)를 모니터링해야 합니다. 주요 측정 기준 응답 속도 (Latency): 사용자가 요청을 보낸 시점부터 첫 번째 토큰을 받을 때까지의 시간(TTFT)과 전체 응답 완료까지의 시간을 측정합니다. 처리…
순환 구조 (Recurrent Structure) 1. 개요 순환 구조(Recurrent Structure)란 신경망의 은닉층(Hidden Layer)에서 생성된 출력이 다시 자기 자신 혹은 이전 층의 입력으로 되돌아오는 연결 구조를 가진 신경망 형태를 의미한다. 일반적인 피드포워드(Feed-forward) 신경망은 입력층에서 출력층 방향으로 정보가 한 방…
머신러닝 추론 가속기 (ML Inference Accelerator) 1. 개요 머신러닝 추론 가속기란 학습이 완료된 머신러닝 모델을 사용하여 입력 데이터에 대한 예측 결과(추론)를 도출하는 과정을 최적화하고 속도를 높이기 위해 설계된 전용 하드웨어 및 소프트웨어 시스템을 의미한다. 머신러닝의 생명주기는 크게 학습(Training)과 추론(Inference…
LLM (거대 언어 모델) 1. 개요 LLM(Large Language Model, 거대 언어 모델)은 방대한 양의 텍스트 데이터를 학습하여 인간과 유사한 자연어를 이해하고 생성할 수 있도록 설계된 인공신경망 기반의 딥러닝 모델이다. 여기서 '거대(Large)'함은 크게 두 가지 측면을 의미한다. 첫째는 파라미터(Parameter, 매개변수)의 수로, 모델…
HBM (고대역폭 메모리, High Bandwidth Memory) 개요 HBM(High Bandwidth Memory, 고대역폭 메모리)은 여러 개의 DRAM(Dynamic Random Access Memory) 칩을 수직으로 적층하고, 이를 TSV(Through Silicon Via)라는 통로로 연결하여 데이터 전송 속도를 획기적으로 높인 고성능 메모리…
FaceReader 1. 개요 FaceReader는 Noldus Information Technology 사에서 개발한 사용자의 얼굴 표정을 실시간으로 분석하여 심리적 감정 상태를 정량적으로 측정하는 안면 인식 기반 감정 분석 소프트웨어이다. 최신 버전인 FaceReader 9 등을 통해 고도화된 분석 기능을 제공하며, 인간의 미세한 얼굴 근육 움직임을 포…
사전 훈련된 모델 (Pre-trained Model) 1. 개요 사전 훈련된 모델(Pre-trained Model)이란 방대한 양의 데이터셋을 사용하여 특정 작업(Task)을 수행하도록 미리 학습된 머신러닝 모델을 의미한다. 일반적으로 딥러닝 모델을 처음부터 학습시키는 스크래치 학습(Training from scratch)은 막대한 양의 레이블링된 데이터와…
컴퓨터 그래픽스 (Computer Graphics) 1. 개요 컴퓨터 그래픽스는 컴퓨터를 이용하여 디지털 이미지를 생성, 조작, 저장 및 표시하는 기술 전반을 의미한다. 이는 단순한 2차원 이미지의 출력을 넘어, 수학적 모델을 기반으로 3차원 가상 공간을 구축하고 이를 2차원 화면으로 투영하는 렌더링(Rendering) 과정을 포함한다. 현대 산업에서 컴퓨…
BLIS Framework BLIS Framework(BL-like Library Instantiation Software)는 고성능 선형 대수 연산을 위한 오픈소스 소프트웨어 라이브러리로 BLAS(Basic Linear Subprograms)와사한 인터페이스를 제공하면서도 보다 유연하고 최적화된 구현을 가능하게 하는 프레임워크입니다. BLIS는 수치 계산…