class 분류 더 확실하게 해줌.

conv하고 각 layer마다 여러 활성화 함수를 이용하는데 이 이유는?

<XOR문제> - 한계.

Screen Shot 2022-07-09 at 5.15.31 PM.png

XOR어케 해결할건데. 2차원에서는 선을 그어도 분류가 되지 않음. 즉, 선형 분류기라는 한계.


hidden layer라는 해결방법이 나왔는데 아무리 선형 시스템이 깊어져도 비선형분류기로 바꿀 수 있는건 아님.

Screen Shot 2022-07-09 at 5.18.28 PM.png


<활성화 함수>

Screen Shot 2022-07-09 at 5.24.22 PM.png

활성화 함수를 사용하면 입력값에 대한 출력값이 linear하게 나오지 않으므로 선형분류기를 비선형 시스템으로 만들 수 이따~

MLP(=fully-connected layer)는 단지 linear layer를 여러개 쌓는 개념이 아닌 활성화 함수를 이용한 non-linear 시스템을 여러 layer로 쌓는 개념이다.

XOR을 sigmoid 활성화 함수를 이용하여 해결

XOR을 sigmoid 활성화 함수를 이용하여 해결

활성화 함수는 입력값을 non-linear한 방식으로 출력값을 도출하기 위해 사용.

이를 통해 linear system을 non-linear한 system으로 바꿀 수 있게 되는 거.