- 딥러닝 모델 자체가 거대한 feature space로 이를 값 하나하나를 적절하게 맞추기 위해서는 0보다는 임의의 값으로 설정하는 것이 유리하다.
- Backward propagation에서의 vanishing gradient 문제를 막기위해
- 아무리 좋은 optimizer를 가지고 있어도 초기값을 잘못 설정하면 global minimum을 가지는데 어려움이 있다.
'AI, Deep Learning Basics > Basic' 카테고리의 다른 글
| [기초] 1. 신경망 개요/단순 퍼셉트론/오차역전법 (0) | 2022.01.02 |
|---|---|
| [NN] PyTorch 함수 모음 (0) | 2021.12.29 |
| [Machine Learning] Linear Model선형모델/LinearRegression선형회귀/LinearClassification선형분류 (0) | 2019.05.03 |
| [Deep Learning]여러 개의 훈련 데이터set로 딥러닝 기반 신경망 알고리즘 적용/Neural Networks and Deep Learning/in multiple training examples/in several hidden layer (0) | 2019.03.26 |
| [Deep Learning]하나의 훈련 데이터로 본 딥러닝 기반 신경망 알고리즘 적용 (0) | 2019.03.25 |