**Xavier Initialization**


## Glorot Initialization
이전 층의 뉴런 개수와 다음 층의 뉴런 개수 이용
여러 층의 기울기 분산 사이에 균형을 맞춘다
S자 형태인 활성화 함수와 함께 사용할 경우에는 좋은 성능을 보이지만, ReLU와 함께 사용할 경우에는 성능이 좋지 않다
### Uniform Distribution



### Normal distribution




> [07-07 기울기 소실(Gradient Vanishing)과 폭주(Exploding)](https://wikidocs.net/61375)





