About Mathematics Behind Large Margin Classification Quiz

SVM의 수학적 의미에 대해 설명하는 강의에서 나온 퀴즈다. 보기로는 1/4, 1/2, 1, 2가 주어지고 그중에 하나를 고르면 된다. 나는 문제를 풀고 보기 중에 선택하면 될 줄 알았는데 그렇게 하면 답을 못 구하고 보기를 하나씩 대입해보면 풀 수 있다.

Decision boundary가 y축이라면 theta는 boundary와 수직을 이뤄야 한다. 그리고 우리는 다음과 같은 숙제를 갖고 있다.

$$\min_{\theta}\frac{1}{2}\sum_{j=1}^{n}{\theta_{j}^{2}} \\
\text{s.t. } \begin{cases}
p^{(i)}\left \| \theta \right \| \geq 1 & \text{ if } y^{(i)}=1 \\ 
p^{(i)}\left \| \theta \right \| \leq -1 & \text{ if } y^{(i)}=0
\end{cases}$$

이제 하나씩 대입해보자. $\frac{1}{2}$의 경우 $p^{(i)}$가 -3 또는 3인 경우가 있기 때문에 불가능하다. 하지만 $\frac{1}{4}$은 X에 대해 주어진 숙제를 만족시키므로 답이 된다.