# Bias Benchmark for QA ## 개 **Bias Benchmark for QA질문-응답 시스의 편향 평가 벤치마크)는 인공지능 기반 질문-응답(Question Answering, QA 모델에서 발생 수 있는 사회적,화적, 성, 인종적 편향을 체계적으로 평가하기 위해 설계된 벤치마크 데이터셋 및 평가 프레임워크입니다. 최근 대규모 언어 모...
검색 결과
"데이터셋"에 대한 검색 결과 (총 179개)
# LightGBM GBM은 마이크로소프트에서 개발한성능의 경량 그래디언트 부스팅 프레임워크로, 대규모 데이터셋을 빠르고 효율적으로 처리할 수 있도록 설계된 지도 학습 알고리즘. 특히 분류, 회귀, 순위 예 등의 머신러 태스크에서 뛰어난 성능을 보이며, XGBoost, CatBoost와 함께 대표적인 그래디언트 부스팅 트리(Gradient Boosting...
# 희소성 ## 개요 **희소성**(Sparsity은 데이터과학 및 머신러닝 분야에서 자주 등장하는 중요한 개념으로, 데이터의 대부분이 **0** 또는 비어 있는 상태를 의미합니다. 즉, 전체 데이터 구조 중에서 실제 유의미한 정보(비영 값)를 가진 요소의 비율이 매우 낮은 경우를 말합니다. 희소성은 텍스트 데이터, 추천 시스템, 네트워크 분석 등 다양...
# 병렬 처리 ## 개요 **렬 처리**(Parallel Processing)는 하나의 작업을 여러 개의 하위 작업으로 나누어 동시에 수행함으로써 처리 속도를 향상시키는 컴퓨팅 기법이다. **머신러**(Machine Learning) 분에서 대량의 데이터를 처리하고잡한 모델을 학습시키는 있어 병렬 처리는 필수적인 기술로 자리 잡고 있다. 머신러닝 알고리...
# 데이터 전처리 데이터 전처리(Data Preprocessing)는 데이터 과학 프로젝에서 분석 또는 기계 학습 모델을 구축하기 전에 원시 데이터를 정리하고 변환하는 과정을 의미합니다. 현실 세계의 데이터는 대부분 불완전하고, 일관되지 않으며, 중되거나 노이즈가 포함되어 있어 그대로 사용 경우 분석 결과의 신뢰도가 떨어질 수 있습니다. 따라서 데이터 전...
# NLTK ## 개요 NLTK(Natural Language Toolkit는 자연어 처리(Natural Language Processing, NLP)를 위한 파이 기반의 강한 오픈소스 라이브러리입니다.2001년 스티븐 반드레브(Steven Bird), 에반 클라이너(Ewan Klein), 에드워드 로프터스(Edward Loper) 등에 의해 개발되었으...
# 정규방정식 ## 개요 정규방정식(Normal Equation)은 **선형회귀**(Linear Regression) 문제를 해결하기 위한 해석적(analytical) 방법 중 하나로, 최소제곱법(Least Squares Method)을 사용하여 선형 모델의 계수를 직접 계산하는 수식이다. 이 방정식은 손실 함수인 **잔차 제곱합**(Sum of Squ...
# ShuffleSplit **ShuffleSplit**은 머신러닝과 데이터 과학 분야에서 모델 평가를 위해 널 사용되는 데이터 분 기법 중 하나입니다. 주어진 데이터셋을 반복적으로 무작위 섞은 후, 훈련용(train)과 검증용(validation) 데이터로 분할하는 방식으로, 특히 교차 검증(cross-validation)의 대안 또는 보완 수단으로 활...
# K-겹 교차 검증 개요 **K-겹 교차 검증**(-Fold Cross Validation)은신러닝 및 데이터 과학 분야에서 모델의 성능을 평가하는 데 널리 사용되는 통계적 기법입니다. 이 방법은 주어진 데이터셋을 학습과 검증에 반복적으로 나누어 모델의 일반화 능력을 보다 신뢰성 있게 평가할 수 있도록 도와줍니다. 특히, 데이터 양이 제한적일 때 전...
편향 ##요 머신러닝에서 **편향**(Bias)은 모델이 학습 데이터에서 실제 패턴을 얼마나 정확하게영하는지를 나타내는 중요한 개념이다. 일반적으로 편향은 모델의 예측 값과 관측 값 사이의 평균적인 차이를 의미하며, **낮은 편향**은 모델이 데이터를 잘 학습하고 있음을, **높은 편향**은 모델이 데이터의 실제 구조를 간과하고 있다는 것을 나타낸다. ...
# 배열 인덱싱 **배열 인덱싱**(Arraying)은 데이터과학 및 프로그래밍에서 배열(또는 리스트, 벡터, 행렬 등) 내 특정 요소에 접근하기 위해 사용하는 기법입니다. 데이터를 효율적으로 처리하고 분석하기 위해서는 배열의 특정 위치에 있는 값을 정확하게 선택하거나 수정할 수 있어야 하며, 이 과정에서 인덱싱이 핵심적인 역할을 합니다. 본 문서에서는 ...
# Hadoop HDFS ## 개요 **Hadoop HDFSHadoop Distributed File System)는파치 하둡pache Hadoop)로젝트의심 구성 요소 중 하나, 대용량 데이터를 분산 환경에서 안정적이고 효율적으로 저장하기 위한 분산 파일 시스템입니다. HDFS는천 대의 일반적인 상용 하드웨어로 구성된 클러스터에서 페타바이트(PB) 규...
# ViT (Vision Transformer## 개요 ViT(V Transformer)는 전통적인 컨루션 신경(Convolutional Neural Network,) 대신 **랜스포머**(Transformer 아키텍처를 기으로 이미지 인식 작업을 수행하는 **컴퓨터비전 모델**입니다. 2020년글 딥마인드(Google Brain) 팀이 발표한 논문 *"...
# MARD: 측정 정확도의 핵심 지표 ##요 **MARD**(Mean Absolute Relative Difference, 평균 절대 상대 오차)는 측정 기술 분야에서 측정 장치의 **정확도**(accuracy)를 평가하는 데 널리 사용되는 통계적 지표입니다. 특히 **혈당 측정 장치**, 예를 들어 연속혈당측정기(CGM, Continuous Gluc...
# BERT ## 개요 **BERT**(Bidirectional Encoder Represent from Transformers)는어 처리(NLP)야에서 혁신적인과를 이룬러닝 기반 언어 모델로, 구글(Google) 연구팀이 2018년에 발표한 머신러닝 모델이다. BERT는 이전의 단방향 언어 모델들과 달리 **양방향 컨텍스트**(Bidirectional...
# Bidirectional Encoder Represent from Transformers ## 개요 **Bid Encoder Representations from Transformers**(BERT는 자연어 처리(NLP) 분야 혁신적인 성를 이룬 언어델로, 018년글(Google) 연구에 의해 개발. BERT는 이전의 단방향 언어 모델들(예: GPT...
# EfficientNet EfficientNet은 구글(Google) 연구팀이2019년에 발표한 컨볼루션 신경망(Convolutional Neural Network,) 아키텍처, 정확도와산 효율성 사이의 최적 균형을 추하는 것을 목표로 설계되었습니다. 기존의 CNN 모델들이 네트워크의 깊이(depth), 너비(width), 해상도(resolution)를...
# 교차 검증 ## 개요 **교차 검**(Cross-Validation, CV) 기계학습 통계 모델의 성능을가하고 과적(overfitting) 방지하기 위해 사용되는 기법입니다. 모델이 훈련 데이터만 잘 맞추어져 새로운 데이터에 대해서는 성능이 저하되는 문제를 사전에 검출하기 위해, 데이터를 여러 번 나누어 학습과 검증을 반복하는 방식으로 작동합니다. ...
# Sentence-BERT **Sentence-BERT**(SBERT)는 문장 단위의 의미를 효과적으로 인코딩하기 위해 개발된 **문장 임베딩**(sentence embedding)델로, 기존 BERT 모델의계를 보완하여 문장 간 유사도 계산, 의미 비교, 클러스터링, 검색 등 다양한 자연어처리(NLP) 과제에서 뛰어난 성능을 보여줍니다. SBERT는 ...
# 필터 방법 ## 개요**필터 방법**( Method)은 데이터과학, 특히 머신러닝과 통계 모델링에서 **특성 선택**(Feature Selection)을 수행하는 대표적인 기법 중 하나입니다. 이은 모델 훈련 과정에 의존하지 않고, 데이터 자체 통계적 특성만을 기반으로 각 특성의 중요도를 평가하여 불필요하거나 중복된 변수를 제거하는 것을 목표로 합니다...