optimizer 썸네일형 리스트형 Optimizer, Loss Funtion 2021.04.07 - [데이터 사이언티스트/딥러닝] - 신경망 학습방법과 역전파(BP) 신경망 학습방법과 역전파(BP) 이번 포스트는 신경망의 학습방법과 역전파의 개념에 대해 다뤄보겠습니다. 신경망의 학습방법의 경우 2번 가중치 부분은 사전학습모델을 사용할 경우 달라질 수 있습니다. 역전파를 코드로도 ksh950510.tistory.com 앞선 글에서 GD가 나오게 된 계기를 설명했습니다. 요즘은 다들 Adam optimizer만 쓰는데 Adam이 어떤 optimizer를 계승해서 나오게됐는지 살펴보겠습니다. Optimizer 가장 기본이 되는 optimizer 알고리즘으로 경사를 따라 내려가면서 W를 update시킨다. GD를 사용하는 이유 왜 이렇게 기울기를 사용하여 step별로 update를 시키.. 더보기 이전 1 다음
