매일매일 딥러닝

안녕하세요!

오늘은

신경망에서 오차 역전파에서 사용되는

지수함수와 로그함수에 대해 알아보겠습니다.

고등학교 수학시간때 들었지만

저는 기억이 가물가물... 열심히 하지 않았나봐요..

그래서 딥러닝을 위해 다시 공부해보도록 하겠습니다!

우선,

지수란?

2 x

 

이러한 거듭제곱의 형태를 말합니다.

그렇다면,

지수함수란?

y = 2 x

위와 같이 y= 을 붙여서 짝을 지어주는 것을 말합니다.

이것을 밑이 2인 지수함수라고 합니다.

이러한 지수함수는 밑이 1보다 큰 경우와

밑이 0보다 크고 1보다 작은 경우로 나눌 수 있습니다.

그래프로 비교해 볼까요?

(1 < 밑)  y =  2 x  함수의 그래프

(0 < 밑 < 1) y =  (1/2) x 함수의 그래프

따라서

 y =  2 x 그래프와 y = (1/2) x 그래프는 Y축 대칭입니다.

 y =  2 x 는 증가함수 그래프의 형태를

y = (1/2) x 는 감소함수 그래프의 형태를 띄게됩니다.

(위의 그래프는 구글에서 직접 그려보실 수 있습니다.)

로그 함수란?

y = loga x (a > 0, a != 1, x > 0)

이것을 a를 밑으로 하는 로그함수라고 말합니다.

여기서 x는 진수입니다.

로그함수는 지수함수의 역함수입니다.

이러한 로그함수도 밑이 1보다 큰 경우와

밑이 0보다 크고 1보다 작은 경우로 나눌 수 있습니다.

그래프로 확인해 볼까요?

(1 < 밑) 일 때, 아래의 그래프 형태를 띕니다.

(0 < 밑 < 1) 일 때, 아래의 그래프 형태를 띕니다.

따라서 

y = loga x  그래프와  y =  a x 그래프는 Y = X축 대칭입니다.

y = x 라는 것은 x 대신 y, y 대신 x 의 값을 갖는 다는 것입니다.

오늘은 여기까지!

이 원리를 이용하는 신경망 오차 역전파 방법은 파이썬에서 활용해보도록 해보겠습니다.