멀티스레 개요 멀티스레(Multithreading은 하나의 프로스 내에서 여러의 스레드)를 동시에 실행하여로그램의 성과 반응성을상시키는 병렬팅 기법입니다 각 스레드 독립적인 실행 흐을 가지며, 프로세스의모리 공간과원을 공유으로써 효율적인 공유와 통신 가능합니다. 멀스레딩은 현 소프트웨어 개발에서 매우 중요한 개념으로, 특히 다중 코어 프로세서 환경에서 성능…
검색 결과
"OOM"에 대한 검색 결과 (총 78개)
스트리밍 오류 LLM 서비스에서 응답을 받을 수 없습니다. 성능 모니터링 지표 LLM 서비스의 품질을 정량적으로 측정하기 위해 다음과 같은 핵심 성능 지표(KPI)를 모니터링해야 합니다. 주요 측정 기준 응답 속도 (Latency): 사용자가 요청을 보낸 시점부터 첫 번째 토큰을 받을 때까지의 시간(TTFT)과 전체 응답 완료까지의 시간을 측정합니다. 처리…
데이터 로딩 개요 데이터 로딩은 소프트웨어 개발 및 버전 관리 시스템에서 데이터의 저장, 변경, 복원을 위한 핵심 프로세스입니다. 특히 버전관리(Version Control) 환경에서는 코드와 함께 데이터 파일도 추적해야 하며, 이 과정은 협업 효율성, 재현 가능성(reproducibility), 그리고 시스템 안정성을 보장합니다. 본 문서는 데이터 로딩의…
Collector (데이터 수집 에이전트) 개요 Collector(컬렉터)는 분산 시스템, 클라우드 인프라, 또는 대규모 네트워크 환경에서 데이터 수집 에이전트(Data Collection Agent)의 역할을 수행하는 소프트웨어 컴포넌트 또는 아키텍처 패턴을 지칭합니다. 현대 IT 인프라에서 Collector는 서버의 메트릭(Metric), 로그(Log)…
ePub (electronic publication) 1. 개요 ePub은 국제 디지털 출판 포럼(IDPF, International Digital Publishing Forum)에서 제정한 개방형 전자책(e-book) 표준 포맷으로, 다양한 기기에서 콘텐츠를 일관되게 표시하기 위해 설계된 문서 형식이다. 현재는 웹 표준을 주도하는 W3C(World Wid…
전이중 모드 (Full-Duplex Mode) 1. 개요 전이중 모드(Full-Duplex Mode)란 통신 양단(Two endpoints)이 서로 독립적인 송신 및 수신 경로를 가져, 데이터를 동시에 양방향으로 주고받을 수 있는 통신 방식을 의미한다. 이는 한쪽이 송신할 때 다른 쪽은 수신만 해야 하거나, 송수신을 교대로 수행해야 하는 제약이 없는 완전한…
주변 환경 1. 개요 주변 환경이란 LLM(대규모 언어 모델) 서비스가 정상적으로 구동되고 최적의 성능을 내기 위해 갖추어야 할 하드웨어, 소프트웨어, 네트워크 및 설정 상태의 총합을 의미합니다. 적절한 주변 환경 설정은 모델의 추론 속도를 결정할 뿐만 아니라, 서비스의 안정성을 확보하고 스트리밍 응답 오류와 같은 기술적 결함을 방지하는 데 필수적입니다. …
다중 스레드 아키텍처 (Multi-threaded Architecture) 1. 개요 다중 스레드 아키텍처란 하나의 프로세스 내에서 실행 흐름의 단위인 스레드(Thread)를 여러 개 생성하여 동시에 작업을 수행하도록 설계된 소프트웨어 구조를 의미한다. 프로세스(Process)가 운영체제로부터 자원을 할당받는 실행 중인 프로그램의 독립적인 인스턴스라면, 스…
서버 캐시 (Server Cache) 서버 캐시는 자주 요청되는 데이터나 계산 비용이 높은 결과물을 고속 접근이 가능한 임시 저장소에 보관하여, 동일한 요청 시 원본 데이터 소스(DB, API 등)에 접근하지 않고 빠르게 응답을 제공하는 기술이다. 목차 1. 개요 2. 캐시 계층 구조 (Caching Layers) 3. 로컬 캐시 vs 글로벌 캐시 4. 캐…
ARM64 ARM64은 ARM 아키텍처의 64비트 확장 버전으로, 공식적으로는 AArch64(ARM Architecture 64-bit)라고도 불립니다. 이 아키텍처는 ARM Holdings(현재는 SoftBank 산하의 Arm Limited)에서 개발하였으며, 모바일 기기뿐 아니라 서버, 임베디드 시스템, 데스크톱 컴퓨터에 이르기까지 다양한 컴퓨팅 환경에…
SaaS (Software as a Service) 1. 개요 SaaS(Software as a Service, 서비스형 소프트웨어)는 클라우드 컴퓨팅 환경에서 소프트웨어를 설치하지 않고 인터넷 브라우저나 앱을 통해 서비스 형태로 제공받는 소프트웨어 배포 모델이다. 전통적인 소프트웨어 방식이 사용자가 라이선스를 구매하여 자신의 컴퓨터나 서버에 직접 설치(O…
MacBook Air 1. 개요 MacBook Air는 Apple Inc.에서 설계 및 판매하는 초경량 노트북 컴퓨터 시리즈로, 높은 휴대성과 전력 효율성을 지향하는 소비자용 노트북 라인업이다. MacBook Pro가 고성능 작업과 전문가용 기능을 제공하는 것과 달리, MacBook Air는 일반 사용자, 학생, 사무직 종사자를 대상으로 하며 Apple의 …
HotSpot JVM 1. 개요 HotSpot JVM은 오라클(Oracle)과 오픈 JDK(OpenJDK) 커뮤니티에서 개발한 자바 가상 머신(Java Virtual Machine)의 구현체로, 실행 중에 프로그램의 성능을 동적으로 분석하여 최적화하는 적응형 최적화 기술을 핵심으로 하는 고성능 런타임 환경이다. 'HotSpot'이라는 명칭은 프로그램 실행 …
디지털 학습 플랫폼 개요 디털 학습 플랫폼(D Learning Platform)은 통신 기술(ICT을 활용하여 학습자가 언제 어디서나 교육 콘텐츠에 접근하고, 학습동을 수행할 수 지원하는 온라인 기반의 교육 환경을 말한다. 전통적인 교실 중심의 교육 방식에서 벗어나, 개인 맞춤형 학습, 실시간 피드백, 협업 기능 등을 제공함으로써 현대 교육의 효율성과 접근…
시스템 통합 개요 시스템 통합(System Integration)은 서로 다른 소프트웨어 시스템, 애플리케이션, 데이터베이스, 하드웨어 플랫폼 등을 하나 유기적인 시템으로 연결하여 데이터와 기능을 원활하게유하고 운영할 수 있도록 하는술적 과정입니다. 기이나 조직 내에서 다양한 부서별로 독립적으로 개발된 시스템들이 존재할 경우, 정보의 중복, 처리 지연, 운…
RFC 768 (User Datagram Protocol, UDP) RFC 768은 인터넷 프로토콜 스위트의 전송 계층(Transport Layer)에서 사용되는 UDP(User Datagram Protocol, 사용자 데이터그램 프로토콜)의 사양을 정의한 표준 문서입니다. 원문 링크: RFC 768 - User Datagram Protocol 1. 개요 …
로깅 (Logging) 1. 개요 로깅(Logging)이란 소프트웨어 실행 과정에서 발생하는 주요 이벤트, 상태 변화, 오류 등의 정보를 기록으로 남기는 행위 또는 그 시스템을 의미한다. 로깅의 주된 목적은 시스템의 가시성(Visibility)을 확보하여, 장애 발생 시 원인을 빠르게 분석(Troubleshooting)하고 시스템의 성능 및 사용자 행동 패…
Marcus (골드만삭스 디지털 뱅킹) 1. 개요 Marcus는 세계적인 투자은행인 골드만삭스(Goldman Sachs)의 소비자 금융 부문(Platform Solutions)의 핵심 브랜드로, 2016년에 런칭한 디지털 전용 소비자 금융 서비스이다. 전통적으로 골드만삭스는 초고액 자산가(HNWI)와 기업, 정부 기관을 대상으로 하는 투자은행(IB, Inv…
실시간 애플리케이션 개요 실시간 애플리케이션(Real 데이터에 대해 지정된 시간 제한(Deadline) 내에 정확한 출력을 생성해야 하는 소프트웨어 시스템을 의미합니다. 이는 단순히 "빠른 응답"을 제공하는 것과는 본질적으로 다릅니다. 실시간 애플리케이션의 핵심은 시간 제약의 엄격성에 있으며, 시스템이 응답을 지연할 경우 기능적 오류 또는 심각한 결과를 초…
Plotly 1. 개요 Plotly는 데이터 분석 및 시각화를 위해 설계된 오픈 소스 인터랙티브 그래프 라이브러리로, 웹 브라우저 기반의 동적인 시각화 결과물을 생성하는 도구입니다. 정적인 이미지를 생성하는 기존 라이브러리와 달리, 사용자가 그래프와 직접 상호작용할 수 있는 인터랙티브(Interactive) 기능을 제공하는 것이 핵심입니다. Plotly는 …