# 헤시안 행렬 헤시안 행렬(Hessian Matrix)은 다변수 실수값 함수의 **이계도함수**(second-order partial derivatives)를 정사각형 행렬 형태로 배열한 것으로, 함수의 국소적 곡률 정보를 제공하는 중요한 수학적 도구입니다. 선형대수학과 최적화 이론, 머신러닝, 물리학 등 다양한 분야에서 널리 사용되며, 특히 함수의 극...

# 최적화 ## 개요 최적화(Opt)는 주어진 조건에서 가장 좋은 해를 찾는 과정을 의미하며, 데이터과학 기계학습, 공학 경제학 등 다양한 분야에서 핵심적인 역할을 한다.과학에서는 모델의 예측 성능을 향상시키기 위해 손실 함수(Loss Function)를 최소화, 제약 조건을 만족하면서 목표 함수를 극대화/극소화하는 작업이 자주 발생한다. 최적화 알고리...

# BFGS **BFGS**(Broyden–Fletcher–Goldfarb–Shanno 알고리즘은 비선형 최적화 문제에서 널리 사용되는 준뉴턴(Quasi-Newton) 방법 중 하나로, 목적 함수의 최소값을 반복적으로 탐색하는 데 효과적입니다. 특히, 목적 함수의 2차 미분(헤시안 행렬)을 직접 계산하지 않고도 뉴턴 방법과 유사한 수렴 성능을 달성할 수 ...