📈활성 함수의 역할 activation function은 출력값을 변환해주는 역할을 하는 함수입니다. 이렇게 할 경우 input에 대한 결과값을 얼마나 출력할 지를 조절할 수 있습니다. 또한 비선형 함수를 사용하여 여러 개의 층을 쌓을 수 있도록 만들어 줍니다. 📌왜 비선형함수일까? 선형 함수를 사용할 경우 층을 쌓는 의미가 사라집니다. 그 이유를 예를 들어 보겠습니다. $h(x)=cx$라는 선형함수 식을 활성함수로 사용할 경우 $y(x)=h(h(h(x)))$로 여러 층을 쌓은 결과가 $y=c^3x$가 됩니다. $c^3$을 $a$로 치환하면 $y=ax$인 선형 함수로 돌아와 버립니다. 따라서 층을 구성하는 의미가 없게 되므로 반드시 비선형함수를 사용해야 합니다. 📈활성 함수의 종류 activation f..