3-1. 퍼셉트론에서 신경망으로
<편향을 명시한 퍼셉트론>
a = 편향의 총합
h(x) = 활성화 함수(active function) >> 입력신호의 총합을 출력신호로 변환
입력이 0을 넘으면 1을 출력하고 넘지 못하면 0을 출력
3-2. 활성화 함수
1. step function : 임계값을 경계로 출력이 바뀜
0을 경계로 출력이 바뀜
0 이외의 값에서 미분값이 0이다.
매개변수의 미소한 변화에 거의 반응이 없다. 반응이 있더라도 불연속적으로 갑자기 변한다.
def step_function(x):
if x > 0:
return 1
else:
return 0
2. sigmoid function : 신경망에서 자주 이용하는 활성화 함수