데이터 분석/딥러닝 썸네일형 리스트형 [python] ArgumentParser(argparse) 정리 ArgumentParser라는 이름에서 부터 알 수 있듯이, argument를 parsing하는 module이다. python의 standard library에 속해있는 module로 따로 설치할 필요는 없다. 특히 command line에 입력하는 인수(argument)를 구문 분석(parsing)하는 데 쓰인다. 사용법은 다음과 같다. 1. import argparse 2. declare parser 3. add argument 4. parsing the argument 코드와 함께 설명하자면 다음과 같다. 1. import argparse import os ... import argparse ... import numpy as np 2. declare parser if __name__ == "__m.. 더보기 Compound Scaling 사전지식 ResNet -> Nas -> NasNet -> MnasNet -> EfficientNet 순으로 발전해왔습니다 이번 포스트에서는 Model Scaling method가 어떤식으로 발전해왔는지에 대해 중점을 두고 작성했습니다. NASNet 기존의 딥러닝 모델들은 사람이 직접 모델을 구성하는 블록을 설계하고, 그 블록을 여러번 쌓아서 모델의 구조를 구축했었습니다. 대표적으로 ResNet은 Vanishing Gradient 문제를 해결하기 위해 사람이 residual block을 설계하고, 그 블록을 차곡차곡 쌓아서 구축한 모델입니다. NasNet은 강화학습과 RNN을 활용하여 block을 사람이 아닌 모델이 딥러닝을 통해 설계하는 것이 특징입니다. 강화학습 : 최적의 보상을 얻을 수 있는 최적의 .. 더보기 Optimizer, Loss Funtion 2021.04.07 - [데이터 사이언티스트/딥러닝] - 신경망 학습방법과 역전파(BP) 신경망 학습방법과 역전파(BP) 이번 포스트는 신경망의 학습방법과 역전파의 개념에 대해 다뤄보겠습니다. 신경망의 학습방법의 경우 2번 가중치 부분은 사전학습모델을 사용할 경우 달라질 수 있습니다. 역전파를 코드로도 ksh950510.tistory.com 앞선 글에서 GD가 나오게 된 계기를 설명했습니다. 요즘은 다들 Adam optimizer만 쓰는데 Adam이 어떤 optimizer를 계승해서 나오게됐는지 살펴보겠습니다. Optimizer 가장 기본이 되는 optimizer 알고리즘으로 경사를 따라 내려가면서 W를 update시킨다. GD를 사용하는 이유 왜 이렇게 기울기를 사용하여 step별로 update를 시키.. 더보기 신경망 학습방법과 역전파(BP) 이번 포스트는 신경망의 학습방법과 역전파의 개념에 대해 다뤄보겠습니다. 신경망의 학습방법의 경우 2번 가중치 부분은 사전학습모델을 사용할 경우 달라질 수 있습니다. 역전파를 코드로도 구현해서 덧붙였습니다. (역전파의 가장 중요한 부분인 chain rule만 이해하셔도 됩니다.) 만약 틀린부분이 있다면 댓글달아주시면 감사하겠습니다. 신경망 학습 방법 오늘은 조금 더 깊이 있게 신경망 훈련 방법에 대해서 살펴볼 것 입니다. 순방향 신경망(FP)과 같은 다층퍼셉트론(MLP, Multi-layer Perceptron) 구조의 신경망은 경사하강법(Gradient descent, GD)으로 학습을 할 수 있는데 역전파(Backpropagationm, BP) 알고리즘에 의해 필요한 기울기(gradient)계산이 가능.. 더보기 Neural Network 신경망 Neural Network 신경망(Neural Networks)은 1943년경 뇌의 신경활동을 수학으로 표현한 아이디어와 1957년 Rosenblatt이 고안한 Perceptron(퍼셉트론) 알고리즘이 발전해서 현재의 신경망 개념에 이르게 되었습니다. 1970년대에 신경망에 대한 연구가 많이 진행됐지만 많은 한계점들로 인해 잠시 신경망 연구가 중단됐으나, 최근들어 한계점을 극복하게 되면서 많은 연구가 이루어지고 있습니다. (ex. XOR -> 다층퍼셉트론으로 해결) 현대의 신경망은 Artificial Neural Networks(ANN, 인공신경망)이라고 불리는 학습 모델이며 뇌의 실제 신경계의 특징을 모사하여 만들어진 계산 모델(computational model)입니다. 신경세포(Neuron).. 더보기 이전 1 다음
