수치 미분은 간단하지만 계산 시간이 오래 걸린다는 단점이 있다.
이러한 단점을 오차역전파법(backpropagation)을 통해 해결할 수 있다.
오차역전파법은 도함수에 값을 대입해서 미분계수(기울기)를 구하는 것이다.
신경망의 함수 사용 순서
1. 순전파
2. 역전파
순전파는 사과부터 -> 사과의 개수 -> 소비세 -> 가격 순
역전파는 그 반대 방향
역전파
역전파는 output에서 input 방향으로 진행한다. 역전파로 갈 때는 미분값을 활용한다.
'딥러닝' 카테고리의 다른 글
| 밑바닥부터 시작하는 딥러닝 5장-9 렐루함수 (p.165) (0) | 2022.10.09 |
|---|---|
| 밑바닥부터 시작하는 딥러닝 5장 -7,8 - 덥셈, 곱셈 노드의 역전파(텐써플로우 포함) (1) | 2022.10.07 |
| 4장 11 신경망 활용 사용자 인터 페이스 만들기 (2) | 2022.10.05 |
| 4장 10. fashion mnist 신경망에 사진 넣고 예측하는지 확인해보기 (0) | 2022.10.05 |
| 4장 9. 학습률(learning rate) p.132 (1) | 2022.10.05 |
