https://joonleesky.github.io/posts/Conjugate_Gradient/
[Math] Conjugate Gradients
이 포스팅에서는 \(Ax = b\)의 해를 찾아내는 과정을, 최적화 문제로 환원하여 해결하는 conjugate gradients method를 살펴봅니다. Justin Solomon 교수님의 CS 205a: Mathematical Methods for Robotics, Vision, and Graphics
joonleesky.github.io
완-벽
이번에 사내에서 분석하는 어떤 건에서, probit 모델을 추천받아 활용해보았다.
그런데 newton method 중 hessian matrix를 계산하는 과정에서 문제가 생겨 수렴이 되지 않아 결과를 확인할 수 없던 차에,
newton-conjugate gradients 방법을 통해 최적화를 시도하니까 수렴이 정상적으로 되더라.
이게 내부적으로 어떤식으로 돌아가는지 공부해보려던 차에 좋은 자료를 찾았다.
'기계학습' 카테고리의 다른 글
| 확률분포 종류 (0) | 2024.01.15 |
|---|---|
| 서포트 벡터 머신(SVM, Support vector machine)을 이해하기 위한 자료들 (0) | 2022.05.19 |
| 2. 편향-분산 트레이드 오프 (Bias-Variance trade off) (0) | 2022.04.15 |
| 1. 앙상블(Ensemble) 기법과 배깅(Bagging), 부스팅(Boosting), 스태킹(Stacking) (1) | 2022.04.15 |