# 선형 탐색 선형 탐색(Linear Search)은치 최적화 분야에서되는 기본적인 최적화 기 중 하나로, 주로 **기기 하강법**(Gradient Descent)과 같은 반복적 최적화 알고리의 핵심 구성소로 활용된다. 이 기법은 주어진 탐색 방향에서 목적 함수를 최소화하는 최적의 스텝 사이즈(step size) 또는 **학습률**(learning rat...

# SciPy ## 개요 **SciPy**(Science Python)는 파이썬 기반의 오픈소스 과학 계산 라이브러리로, 수치 계산, 최적화 통계, 신 처리, 선형 대수, 적분, 미분 방정식 해법 등 다양한 과학 및 공학 문제를 해결하기 위한 고수준의 알고리즘과 수학적 도구를 제공합니다. SciPy는 NumPy를 기반으로 하며, 과학기술 컴퓨팅(Scie...

# BFGS **BFGS**(Broyden–Fletcher–Goldfarb–Shanno 알고리즘은 비선형 최적화 문제에서 널리 사용되는 준뉴턴(Quasi-Newton) 방법 중 하나로, 목적 함수의 최소값을 반복적으로 탐색하는 데 효과적입니다. 특히, 목적 함수의 2차 미분(헤시안 행렬)을 직접 계산하지 않고도 뉴턴 방법과 유사한 수렴 성능을 달성할 수 ...