AOCL AMD Optimizing CPU Libraries(AOCL)는 AMD 제공하는 고성능 컴퓨(HPC), 머신러닝, 과학 계산 및 데이터 분석 애플리케이션 성능을 최적화하기 위한 소프트웨 라이브러리 모음입니다. AOCL AMD의 x86-4 아키텍처 기반 프로세서, 특히 EPYC, Ryzen, Threadripper 시리즈에서 최적의 성능을 발휘하도록…
검색 결과
"대규모 데이터"에 대한 검색 결과 (총 259개)
미세 조정 개요 미세 조정(Fine-tuning)은 머신러닝, 특히 딥러닝 분야에서 사전 훈련된(pre-trained) 모델 새로운 과제(task)에 맞게 추가로 훈련하여 성능을 개선하는법입니다. 이은 대규모 데이터셋으로 학습된 모델의 일반적인 특징 추출 능력을 활용하면서도, 특정 도메인이나 목적에 최적화된 성능을 얻을 수 있도록 해줍니다. 특히 자연어 처…
해싱 트릭 개요 해싱 트(Hashing Trick)은 기 학습 및 데이터 과학 분야 고차원의 범주형 데이터를 효율적으로 처리하기 위한 기술이다. 특히 자연어 처리(NLP)나 대규모 범주형 피처를 다룰 때, 원-핫 인코딩(Oneot Encoding)과 같은 전통적인 인코 방식이 메모리와 계산 자원을 과도하게 소모하는 문제를 해결하기 위해 제안되었다. 해싱 트…
스토리지 오케스트레이션 개요 토리지 오케스트레이(Storage Orchestration)은 데이터 인프라의 배포, 관, 확장, 모니링 및 최적화를 자동화하고 조정하는 기술적 프로세를 의미합니다. 클라우드 환경, 컨테이너 기반 아키텍처, 대규모 데이터 센터 등에서 데이터 저장소의 복잡성이 증가함에 따라, 수동으로 스토리지를 관리하는 것은 비효율적이고 오류 발…
LDA (Lat Dirichlet Allocation) 개요 LDA(Latent Dirichlet Allocation, 잠재 디리클레 할당) 자연어 처리(Natural Language Processing, NLP) 분야에서 널리 사용되는주제 모델(Topic Modeling) 기 중 하나입니다. 주로 문서 집합(corpus) 내에서 잠재적인 주제(latent…
과학기술 계산 과학기술 계산(Scientific)은 과학 및 공학 분야의 복잡한 문제를 수치적 방법과 컴퓨터 시뮬레이션을 통해 해결하는 학제 간 기술 영역입니다. 이 분야는 수학, 물리학, 컴퓨터 과학, 공학 등 다양한 분야의 지식을 융합하여 실험적 또는 이론적 접근만으로는 해결하기 어려운 문제를 분석하고 예측하는 데 핵심적인 역할을 합니다. 현대 과학기술…
컨테이너 오케스트레이션 개요컨테이너 오케스트션(Container Orchestration) 다수의 컨이너화된 애플케이션을 자동으로 배포, 관리, 확장,니터링하고 장애 복를 수행하는 기술 및 프로세스를 의미합니다 마이크로서비스 아키텍처의 확산과 함께 컨테이너 기술(Docker 등)이 널리 사용되면서, 수백에서 수천 개에 이르는 컨테이너 수동으로 관리하는 것은…
num_leaves num_leaves는 그래디언트 부스팅 머신 러닝 알고리즘 중 하나인 LightGBM(Light Gradient Boosting Machine)에서 중요한 하이퍼파라터로, 각각의 결정 트리(decision tree) 가질 수 있는 최대 잎 노드 수(maximum number of leaf nodes)를 지정합니다. 이 파라미터는 모델의 …
LightGBM GBM은 마이크로소프트에서 개발한성능의 경량 그래디언트 부스팅 프레임워크로, 대규모 데이터셋을 빠르고 효율적으로 처리할 수 있도록 설계된 지도 학습 알고리즘. 특히 분류, 회귀, 순위 예 등의 머신러 태스크에서 뛰어난 성능을 보이며, XGBoost, CatBoost와 함께 대표적인 그래디언트 부스팅 트리(Gradient Boosting De…
희소성 개요 희소성(Sparsity은 데이터과학 및 머신러닝 분야에서 자주 등장하는 중요한 개념으로, 데이터의 대부분이 0 또는 비어 있는 상태를 의미합니다. 즉, 전체 데이터 구조 중에서 실제 유의미한 정보(비영 값)를 가진 요소의 비율이 매우 낮은 경우를 말합니다. 희소성은 텍스트 데이터, 추천 시스템, 네트워크 분석 등 다양한 분야에서 자연스럽게 발생…
RLHF 개요 RLHF(Reinforcement Learning from Human Feedback, 인간의 피드백을 통한 강학습)은 인공지능, 특히 자연어 처리(NLP) 분야에서 모델의 출력 품질을 향상시키기 위해 사용되는 학습 기법입니다. 이은 인간이 모델의 출력 결과에 대해 선호도를 평가하고, 그 피드백을 기반으로 강화학습 알고리즘을 통해 모델을 보정…
NLTK 개요 NLTK(Natural Language Toolkit는 자연어 처리(Natural Language Processing, NLP)를 위한 파이 기반의 강한 오픈소스 라이브러리입니다.2001년 스티븐 반드레브(Steven Bird), 에반 클라이너(Ewan Klein), 에드워드 로프터스(Edward Loper) 등에 의해 개발되었으며, 현재는 …
빅데이터 분석 플랫폼 개요 빅데이터석 플랫폼은 대의 구조화, 반구조, 비구조화 데이터를 수집, 저장, 처리, 분석 시각화할 수 있도록 설계 소프트웨어 시스템 또는 통합 환경을 의미합니다. 현대 기업과 기관은 매일 페타바이트(PB) 단위의 데이터를 생성하며, 이러한 데이터를 효과적으로 활용하기 위해서는 고성능의 분석 인프라가 필수적입니다. 빅데이터 분석 플랫…
ShuffleSplit ShuffleSplit은 머신러닝과 데이터 과학 분야에서 모델 평가를 위해 널 사용되는 데이터 분 기법 중 하나입니다. 주어진 데이터셋을 반복적으로 무작위 섞은 후, 훈련용(train)과 검증용(validation) 데이터로 분할하는 방식으로, 특히 교차 검증(cross-validation)의 대안 또는 보완 수단으로 활용됩니다. 이…
배열 인덱싱 배열 인덱싱(Arraying)은 데이터과학 및 프로그래밍에서 배열(또는 리스트, 벡터, 행렬 등) 내 특정 요소에 접근하기 위해 사용하는 기법입니다. 데이터를 효율적으로 처리하고 분석하기 위해서는 배열의 특정 위치에 있는 값을 정확하게 선택하거나 수정할 수 있어야 하며, 이 과정에서 인덱싱이 핵심적인 역할을 합니다. 본 문서에서는 배열 인덱싱의…
Hadoop HDFS 개요 Hadoop HDFSHadoop Distributed File System)는파치 하둡pache Hadoop)로젝트의심 구성 요소 중 하나, 대용량 데이터를 분산 환경에서 안정적이고 효율적으로 저장하기 위한 분산 파일 시스템입니다. HDFS는천 대의 일반적인 상용 하드웨어로 구성된 클러스터에서 페타바이트(PB) 규모의 데이터를 저…
자기 호스팅 자기 호스팅(Self-hosting)은 소프트웨어발 및 시스 운영 분야에서 중요한 개념으로, 사용자가 직접 소프트웨어를 설치하고 관리하는 서버 인프라를 운영함으로 서비스를 제공하는식을 의미합니다. 이는 클라우드 서비스나 제3자 호스팅 제공업체에 의존하지 않고, 개인 또는 조직이 자신의 하드웨어 및 네트워크 자원을 활용하여 애플리케이션을 실행하는…
ViT (Vision Transformer 개요 ViT(V Transformer)는 전통적인 컨루션 신경(Convolutional Neural Network,) 대신 랜스포머(Transformer 아키텍처를 기으로 이미지 인식 작업을 수행하는 컴퓨터비전 모델입니다. 2020년글 딥마인드(Google Brain) 팀이 발표한 논문 "An Image is Wo…
산업 자동화 개요 산업 자동(Industrial Automation)는 제조 생산, 물류 등 산업 공에서 인간의 개입을 최소화하고 기계, 소프트웨어, 제어 시스템 등을 활용하여 작업을 자동으로 수행하게 하는 기술 분야입니다. 이는 생산성 향상, 품질 일관성 확보, 작업자의 안전성 증대, 운영 비용 절감 등을 목적으로 하며, 현대 제조업의 핵심 기반 기술로 …
교차 검증 개요 교차 검(Cross-Validation, CV) 기계학습 통계 모델의 성능을가하고 과적(overfitting) 방지하기 위해 사용되는 기법입니다. 모델이 훈련 데이터만 잘 맞추어져 새로운 데이터에 대해서는 성능이 저하되는 문제를 사전에 검출하기 위해, 데이터를 여러 번 나누어 학습과 검증을 반복하는 방식으로 작동합니다. 특히 데이터 양이 제…