[딥러닝]퍼셉트론, 입력층/은닉층/출력층, 활성화 함수 개념정리

1. 퍼셉트론

퍼셉트론이란 무엇일까요?

• 퍼셉트론이란 '신경망을 이루는 가장 기본 단위'입니다.
• 위 그림과 같이, 사람의 뇌에서 정보를 처리하는 신경 세포인 뉴런을 본딴 구조라고 생각하시면 편합니다.
• 우리의 뇌가 시각, 청각, 후각, 촉각 등 다양한 감각을 통해 정보를 입력 받으면 그에 대한 어떠한 처리를 거쳐 결과적으로 우리는 어떤 행동을 하게 됩니다.

2. 입력층, 은닉층, 출력층

• 뉴런 예시를 빗대어 위와 같이 우리가 고속도로를 나갈 때, 톨게이트에서 정산하고 나가는 과정을 생각해볼 수 있습니다.
• 이 때, 파란색 영역이 입력층, 톨게이트(계산대)가 은닉층, 빨간색 영역이 출력층이라고 생각해보겠습니다.
• 먼저, 고속도로(입력층)에 있는 차량은 그 종류가 굉장히 다양하고 얼마만큼의 거리를 왔는지도 제각각입니다.
  마치 우리가 대입할 데이터셋이 다양한 특성과 여러개의 행을 갖고 있는 것과 같습니다.
• 톨게이트(은닉층)는 각 차량 종류마다(일반차량, 경차, 화물트럭 등) 일정한 기준에 따라 다른 비용(가중치)을 부과합니다.
• 또, 우리가 톨게이트를 빠져나와(출력층) 하나의 도로로 합쳐지게 할 수도 있고, 2개 혹은 지하로 등등 다양하게 출구 도로 개수(출력층 노드 수)를 정해줄 수 있습니다.

3. 활성화 함수

• 위의 톨게이트 예시에서, 톨게이트가 어떤 기준으로 각 차량에 고속도로 비용을 정산하게 되고 차량이 이 비용을 냈다면 통과하게 되고 그렇지 못하다면 통과하지 못하게 됩니다. 이렇게 통과되는 기준을 잡는 것이 활성화 함수의 역할입니다.
• 일반적이진 않지만 톨게이트를 예시로 생각해보면 통과 가능(1), 통과 불가능(0) 외에도 1,000원 내에서 모자랄 땐 통과긴 하지만 추후 벌금 납입(0.5)과 같은 다양한 조건을 줄 수 있습니다. 이런 통과 조건 즉, 데이터의 출력값에 대한 기준을 정해주는 것이 활성화 함수입니다.

많이 모자란 비유지만 공부하시는데 참고가 되었으면 좋겠습니다.