밑바닥부터 시작하는 딥러닝 4장 - 1. 오차함수

■ 신경망 학습 시키기 위해 알아야할 3가지 개념

1. 오차함수 :
   • 신경망이 뭘 잘못하고 있는지 깨닫게 해주는 함수
   • 오차 함수에 정답 데이터와 예측 데이터를 넣어서 오차가 어떻게 되는지 확인
2. 미니배치 :
   • 학습할 때 데이터를 한꺼번에 신경망에 넣는 게 아니라 몇백장씩 조금씩 신경망에 넣고 학습시키는 것
3. 수치미분 :
   • 오차함수의 기울기를 구해서 기울기 만큼 가중치를 갱신할 때 필요

■ 오차함수의 종류 

1. 분류 -> 교차 엔트로피 함수(cross entropy error)

2. 회귀 -> 평균 제곱 오차 함수(mean squared error)