loss function : score에 대해 불만족 하는 정도를 정량화 하여 나타내는 기법

optimization : loss function을 최소화하는 파라미터값들을 찾는 과정

1.SVM을 활용한 Hinge loss

xi : 이미지 yi : label

s = f(xi, W)

Q1. j=yi인 경우?

j = yi를 포함시키기 전의 기존의 loss값에서 1을 더해주어야 한다.

따라서 총 loss값도 1만큼 증가한다.

Q2. sum값 대신 mean값을 사용한다면?

Q3. 제곱값을 사용한다면?

제곱을 해주게 되면 non-linear해지게 된다.

Q4. SVM에서 min값과 max값은 무엇인가?

min값은 0, max값은 무한대