본문 바로가기
카테고리 없음

시그모이드 함수 사용 이유

by 설화님 2023. 12. 31.
  1. 출력 범위가 0에서 1 사이: 시그모이드 함수의 출력 범위는 0에서 1까지이기 때문에, 이를 확률로 해석할 수 있습니다. 이진 분류에서 "양성 클래스에 속할 확률"을 나타내기 위해 많이 사용됩니다.
  2. 미분 가능성: 시그모이드 함수는 모든 점에서 미분 가능합니다. 이 특성은 주로 경사 하강법(Gradient Descent)과 같은 최적화 알고리즘에서 사용되며, 모델의 가중치를 업데이트할 때 필요합니다.
  3. 로지스틱 손실 함수와의 조합: 시그모이드 함수는 로지스틱 손실 함수와 자주 조합되어 사용됩니다. 로지스틱 손실 함수는 로지스틱 회귀와 같은 모델에서 이진 분류의 손실을 측정하는 데에 효과적입니다.
  4. 간단한 형태: 시그모이드 함수는 간단한 수식이며, 계산이 비교적 빠르게 이루어집니다.

그러나 시그모이드 함수는 몇 가지 문제가 있을 수 있습니다. 특히, 그레디언트 소실 문제(vanishing gradient problem)가 있어, 심층 신경망에서는 사용이 제한될 수 있습니다. 이러한 이유로 ReLU(Rectified Linear Unit)나 다른 활성화 함수들이 더 널리 사용되기도 합니다.