계층적 메모리 구조 개요 계층적 메모리 구조(Hierarchical Memory Structure)는 컴퓨터 시스템에서 성능과 비용의 균형을 맞추기 위해 다양한 종류의 메모리를 계층적으로 구성한 아키텍처 설계 원칙이다. 이 구조는 처리 속도가 빠르지만 용량이 제한적인 메모리를 CPU 근처에 배치하고, 용량은 크지만 접근 속도가 느린 메모리를 외부에 배치함으…
검색 결과
"캐시 메모리"에 대한 검색 결과 (총 16개)
멀티스레 개요 멀티스레(Multithreading은 하나의 프로스 내에서 여러의 스레드)를 동시에 실행하여로그램의 성과 반응성을상시키는 병렬팅 기법입니다 각 스레드 독립적인 실행 흐을 가지며, 프로세스의모리 공간과원을 공유으로써 효율적인 공유와 통신 가능합니다. 멀스레딩은 현 소프트웨어 개발에서 매우 중요한 개념으로, 특히 다중 코어 프로세서 환경에서 성능…
커널 통합 (Kernel Integration) 1. 개요 커널 통합(Kernel Integration)이란 운영체제(OS)의 핵심인 커널이 하드웨어 추상화, 메모리 관리, 프로세스 스케줄링 등의 핵심 기능을 수행하기 위해 다양한 서브시스템, 장치 드라이버, 그리고 외부 모듈을 하나의 실행 가능한 논리적 단위로 결합하는 기술적 과정을 의미한다. 커널은 사용…
머신러닝 추론 가속기 (ML Inference Accelerator) 1. 개요 머신러닝 추론 가속기란 학습이 완료된 머신러닝 모델을 사용하여 입력 데이터에 대한 예측 결과(추론)를 도출하는 과정을 최적화하고 속도를 높이기 위해 설계된 전용 하드웨어 및 소프트웨어 시스템을 의미한다. 머신러닝의 생명주기는 크게 학습(Training)과 추론(Inference…
다중 스레드 아키텍처 (Multi-threaded Architecture) 1. 개요 다중 스레드 아키텍처란 하나의 프로세스 내에서 실행 흐름의 단위인 스레드(Thread)를 여러 개 생성하여 동시에 작업을 수행하도록 설계된 소프트웨어 구조를 의미한다. 프로세스(Process)가 운영체제로부터 자원을 할당받는 실행 중인 프로그램의 독립적인 인스턴스라면, 스…
컨텍스트 스위칭 (Context Switching) 1. 개요 컨텍스트 스위칭(Context Switching)이란 운영체제가 현재 실행 중인 프로세스나 스레드의 상태를 저장하고, 다음에 실행할 프로세스나 스레드의 상태를 복원하여 CPU의 제어권을 전환하는 과정을 말합니다. 이는 단일 CPU 환경에서도 여러 프로그램이 동시에 실행되는 것처럼 보이게 하는 멀…
캐시 대체 정책 (Cache Replacement Policies) 개요 캐시 대체 정책이란 캐시 메모리가 가득 찼을 때, 새로운 데이터를 저장하기 위해 기존에 저장되어 있던 데이터 중 어떤 것을 제거하고 교체할지 결정하는 알고리즘을 말합니다. 캐시의 크기는 한정되어 있으므로, 향후 참조될 가능성이 가장 낮은 데이터를 효율적으로 선택하여 제거함으로써 캐시 …
추론 속도 (Inference Speed) 1. 개요 추론 속도(Inference Speed)란 학습이 완료된 AI 모델에 새로운 입력 데이터를 넣었을 때, 모델이 예측 결과(출력)를 내놓기까지 걸리는 시간을 의미한다. AI 모델 서비스(Serving) 단계에서 추론 속도는 서비스의 실용성을 결정짓는 핵심 요소이다. 특히 실시간 상호작용이 필요한 챗봇, 자…
LFU (Least Frequently Used) 1. 개요 LFU(Least Frequently Used)는 캐시 메모리가 가득 찼을 때, 참조 횟수가 가장 적은 항목을 우선적으로 제거하여 새로운 데이터를 수용하는 캐시 교체 알고리즘이다. 캐시 교체 알고리즘의 핵심 목적은 한정된 메모리 공간 내에서 '히트율(Hit Rate, 요청한 데이터가 캐시에 존재할…
Basic Linear Algebra Subprograms Basic Linear Algebra Subprograms(BL)는 선형대수 계을 위한 기본적인 연산들을 표화한 인터페이스 사양이다. BLAS는 벡터와렬의 덧셈 스칼라 곱, 내적, 행렬-벡터 곱, 행렬-행렬 곱 등과 같은 수치 선형대수의 핵심 연산들을 정의하며, 과학 계산, 머신러닝, 공학 시뮬레이…
순차 자료구조 (Sequential Data Structure) 1. 개요 순차 자료구조란 데이터가 메모리 상에 물리적으로 연속적인 공간에 저장되는 선형 자료구조를 의미합니다. 데이터의 논리적인 순서와 물리적인 저장 순서가 일치하는 것이 특징이며, 가장 대표적인 형태로 배열(Array)이 있습니다. 2. 주요 특징 및 작동 원리 2.1 직접 접근 (Dire…
스토리지 어레이 개요 스토리지 어레이(Storage Array)는 다수의 물리적 저장 장치(예: 하드디스크 드라이브 HDD, 솔리드 스테이트 드라이브 SSD)를 하나의 논리적 저장 시스템으로 통합하여 데이터를 효율적으로 저장, 관리, 보호하는 전용 저장장치입니다. 주로 기업 및 데이터센터 환경에서 대용량 데이터를 안정적이고 고성능으로 처리하기 위해 사용되며…
시간적 지역성 개요 시간적 지역성(Temporal Locality)은 컴퓨터 과학, 특히 컴퓨터 아키텍처와 캐시 관리 분야에서 중요한 개념 중 하나로, 프로그램 실행 중 특정 메모리 위치에 접근한 후, 그 위치가 가까운 미래에 다시 접근될 가능성이 높다는 성질을 의미한다. 이는 프로그램의 실행 패턴에서 반복적으로 같은 데이터나 명령어를 사용하는 경향에서 비…
레지스터 개요 레지스터(Register)는 컴퓨터의 중앙처리장치(CPU) 내부에 위치한 매우 빠른 소용량의 기억 장치로, 프로세서가 명령어를 실행하는 동안 데이터를 일시적으로 저장하고 조작하는 데 사용된다. 레지스터는 컴퓨터 아키텍처에서 가장 빠른 수준의 메모리 계층(Memory Hierarchy)에 속하며, 캐시 메모리보다도 접근 속도가 빠르다. CPU가…
Field-Programmable Gate Array 개요 Field-Programmable Gate Array(FPGA 현장 프로그머블 게이트레이)는 사용자가 소프트웨어 통해 하드웨어 구조를 재구성할 수 있는 반도체 장치입니다. FPGA는통적인 고정 기능의 집적회로(IC)와 달리, 출하 후에도 사용자가 원하는 논리 회로를 프로그래밍하여 구현할 수 있어 매…
LAPACK 개요 LAPACK(Linear Algebra PACKage)은 과학 계산 및 공학 분야에서 널리 사용되는 고성능 수치 선형대수 라이브러리입니다. 주로 행렬 연산, 선형 연립방정의 해법, 고유값 문제, 특이값 분해(SVD), 최소자승법 문제 등을 효율적으로 해결 위해 설계되었습니다. LAPACK은 FORTRAN 77로 작성으며, 이후 FORTRA…