그래디언트 소멸 문제(vanishing gradient problem)에 대한 설명으로 옳지 않은 것은?
- ①특정 활성화 함수를 사용하는 계층이 신경망에 많이 추가되면 학습이 되지 않는 현상을 말한다.
- ②0이나 0에 가까운 수가 시그모이드(sigmoid) 함수에 들어오면 그래디언트가 0에 가까워 학습이 되지 않는다.
- ③그래디언트의 절댓값이 너무 작아지면 학습이 되지 않아 가중치(weight)와 편향(bias) 값들이 효과적으로 업데이트 되지 못한다.
- ④그래디언트 소멸 문제를 해결하기 위해 DNN(Deep Neural Network)에서는 활성화 함수로 ReLU 함수를 사용한다.
선지를 골라 바로 채점해 보세요.
정답 ②
출처: 인사혁신처 공개 기출(공공데이터포털, 이용허락 제한 없음)