# 계층적 소프맥스 ## 개요 **층적 소프맥스**(Hierarchicalmax)는 자연처리(NLP) 대용량 어휘(vocabulary)을룰 때 발생하는산 비용 문제를 해결하기 위해 제된 기술입니다 특히 언어 모델, 단어 임베딩(예: Word2Vec), 기계 번역 등에서 출력층의 소프트맥스 계산이 단어 사전의 크기에 비례하여 매우 비효율적이라는 문제가 있...
검색 결과
"이진 트리"에 대한 검색 결과 (총 9개)
# 계층적 구조 ## 개요 **계층적 구**(Hierarchical Structure)는를 계층적으로 조직화하여 상하계를 명확히 표현하는 데이터 구조의 한 형태이다. 이 구조는 상위소와 하위소 간의 부모-자식계(parent-child relationship)를 기반으로 하며, 정보의 조직, 검색, 관리에 매우 효과적인 방식으로 널리 사용된다. 계층적 구...
# num_leaves `num_leaves`는 그래디언트 부스팅 머신 러닝 알고리즘 중 하나인 **LightGBM**(Light Gradient Boosting Machine)에서 중요한 하이퍼파라터로, 각각의 결정 트리(decision tree) 가질 수 있는 **최대 잎 노드 수**(maximum number of leaf nodes)를 지정합니다....
# 루트 노드 ## 개요 **루트 노드**( Node)는 블록인 기술에서 특히 **머클 트리**(Merkle Tree)와 같은 데이터 구조에서 중심적인 역할을 하는 개념이다. 루트 노드는 트리 구조의 최상위에 위치하며, 하위 노드들에 포함된 모든 데이터의 해시 값을 요약한 형태로 존재한다. 이는 블록체인의 무결성 검증, 데이터 압축, 효율적인 거래 검증...
# 스킵-그램 (-gram) ## 개요 스킵-그램(Skip-gram)은 자연어 처리(Natural Language Processing, NLP) 분야에서 널리 사용되는어 모델링 기법으로 **워드 임베딩**(Word Embedding) 생성하는 데 핵심적인 역할을 한다. 스킵-그램은 2013년 토마스 미코로프(Tomas Mikolov)와 구글 연구팀이 제...
# Word2Vec ## 개요 **Word2Vec**은 자연 처리(NLP)야에서 널리 사용되는 **단어 임베딩**(word embedding) 기법 중 하나로, 단어를 고차원 벡터 공간에 실수 벡터로 표현하는 모델입니다. 이 기법 2013년 구글의 토마스 미코로프(Tomas Mikolov)와 그의 동료들이 개하였으며, 기존의 복잡하고 계산 비용이 높은 ...
# Skip-gram ## 개요 **-gram**은 자연어 처리(Natural Language Processing, NLP) 분야에서 널리 사용되는 **단어 임베딩**(Word Embedding) 기법 중 하나로, **워드투벡**(Word2Vec) 모델의 두 가지 아키텍처 중 하나이다. 다른 하나는 CBOW(Continuous Bag of Words)이...
# 이상치 탐지 ## 개요 **이상치지**(Outlier Detection)는 데이터학 및 통계 분석에서 중요한 역할을 하는 기법으로, 데이터 세트 내 다른 관측치와显著하게 다른 값을 가지는 데이터 포인트를 식별하는 과정을 의미한다. 이러한 데이터 포인트는 일반적인 패턴이나 분포에서 벗어나며, 때로는 측정 오류, 데이터 입력 실수, 혹은 진정한 특이 현...
# 머클 트리 ## 개요 머클 트리(Merkle Tree)는 데이터 무결성 검증과 효율적인 정보 압축을 위해 설계된 이진 트리 구조로, 암호학 및 분산 시스템에서 핵심적인 역할을 수행합니다. 1979년 암호학자 랄프 머클(Ralph Merkle)이 최초로 제안하여 그의 이름을 따 명명되었으며, 블록체인 기술, 분산 파일 시스템, 소프트웨어 업데이트 등 다...