[Deep Learning] 퍼셉트론

⛧ 퍼셉트론 : 인공신경망 구성요소 중 하나로 딥러닝 모델의 가장 작은 기본단위

○ 뇌를 구성하는 신경세포인 뉴런의 동작과 유사하게 동작.

신경의 흥분이 전달되기 위해서는 뉴런에 전달되는 자극의 크기가 역치 이상이 되어야함.

반응의 크기 > 역치

 

퍼셉트론 : 선형모델 + 활성화함수

y = w1x1 + w2x3 + b

지금 사용하고 있는 활성화함수는 sigmoid이고 이전의 활성화함수는 step function (계단 함수)이다.

y={0, w1x1 + w2x3 + b <= 0

해당 식이 0보다 작으면 반응을 안 하고

해당 식이 0보다 크면 반응이 있다.

w1, w2 : 가중치(weight), 각 입력 신호가 결과에 주는 영향력을 조절하는 매개변수

b :편향(bias), 뉴런이 얼마나 쉽게 활성화하느냐를 조절하는 매개변수

 

---

⛤다중 퍼셉트론 (MLP, Multi Layer Perceptron)

                  : 퍼셉트론을 여러 개의 층으로 구성하여 만든 신경망

xor문제 해결하기 위해서 나타남. 단층으로 해결할 수 없어서 다층이 등장하게 됨.

sigmoid !!

최적화 == optimizer

➤ 회귀에서는 mse, 분류에는 크로스엔트로피 사용함.

 

최적화의 알고리즘은 경사하강법(SGD)은 기울기를 통해서 알 수 있음.

data ➜ model ➜ 예측값 ^y - 실제값 y ➜ 오차를 통해서 최적화를 함.

loss손실함수

1.회귀: MSE

2. 분류: crossentropy

---

회귀모델은 성적을 예측,   분류 모델은"  ~~ 이니? 아니니? "

연속형데이터는 회귀 ,

☑ [출력형태에 따른 unit의 개수 ]

- 회귀: units = 1

- 이진분류 : units = 1

☑ [출력 형태에 따른 활성화함수의 종류 ]

- 회귀: linear() ➜ 항등함수, y=x의 선형 모델을 사용.

선형모델이 예측한 데이터를 그대로 출력. 기본값이라서 적어주지 않아도 괜찮다.

-이진분류 : sigmoid ➜ 0~1사이의 확률값으로 출력 받기 위함.