반응형

안녕하세요!



오늘은


신경망에서 오차 역전파에서 사용되는


지수함수와 로그함수에 대해 알아보겠습니다.





고등학교 수학시간때 들었지만


저는 기억이 가물가물... 열심히 하지 않았나봐요..



그래서 딥러닝을 위해 다시 공부해보도록 하겠습니다!




우선,


지수란?


2 x

 

이러한 거듭제곱의 형태를 말합니다.



그렇다면,


지수함수란?


y = 2 x


위와 같이 y= 을 붙여서 짝을 지어주는 것을 말합니다.


이것을 밑이 2인 지수함수라고 합니다.



이러한 지수함수는 밑이 1보다 큰 경우와


밑이 0보다 크고 1보다 작은 경우로 나눌 수 있습니다.



그래프로 비교해 볼까요?




(1 < 밑)  y =  x  함수의 그래프





(0 < 밑 < 1) y =  (1/2) x 함수의 그래프




따라서


 y =  x 그래프와 y = (1/2) x 그래프는 Y축 대칭입니다.


 y =  x 는 증가함수 그래프의 형태를


y = (1/2) x 는 감소함수 그래프의 형태를 띄게됩니다.


(위의 그래프는 구글에서 직접 그려보실 수 있습니다.)




로그 함수란?


y = loga x (a > 0, a != 1, x > 0)


이것을 a를 밑으로 하는 로그함수라고 말합니다.


여기서 x는 진수입니다.


로그함수는 지수함수의 역함수입니다.



이러한 로그함수도 밑이 1보다 큰 경우와


밑이 0보다 크고 1보다 작은 경우로 나눌 수 있습니다.




그래프로 확인해 볼까요?



(1 < 밑) 일 때, 아래의 그래프 형태를 띕니다.




(0 < 밑 < 1) 일 때, 아래의 그래프 형태를 띕니다.





따라서 


y = logx  그래프와  y =  a x 그래프는 Y = X축 대칭입니다.


y = x 라는 것은 x 대신 y, y 대신 x 의 값을 갖는 다는 것입니다.





오늘은 여기까지!


이 원리를 이용하는 신경망 오차 역전파 방법은 파이썬에서 활용해보도록 해보겠습니다.

반응형
반응형

안녕하세요


빅데이터에 관심이 있으신 분들은 머신러닝과 딥러닝에 수학, 통계가 필요하다는 것을 아실 겁니다.


하지만 어떤 개념이 필요한지 알려주는 사이트가 없었습니다.


그래서 머신러닝 & 딥러닝 & 빅데이터 분석가를 꿈꾸는 학생으로서


이렇게 찾아뵙게 되었습니다!!


그 첫 번째 포스팅!


오늘은

머신러닝의 결정트리와 딥러닝의 신경망 활성화 함수, 오차함수에 사용되는

로그상용로그에 대해 알아보도록 하겠습니다.




우선, 로그란 무엇이며 왜 사용할까요?


로그의 기원은

중세시대 천문학이 자연과학으로 발전될 때,

매우 큰 수로 이루어지는 천체의 관측 자료를

정리하거나 계산을 간단히 하기위해 사용되었습니다.


즉, 로그의 발명은

큰 숫자를 작은 숫자로 표현하기 위해,

덧셈과 뺄셈만큼이나 곱셈과 나눗셈을 간단히 하려는 생각에서 비롯된 것이죠.



<지수와 로그 관계>


위의 logarithm form을 해석해보면,


a를 밑으로 하는 N의 로그라고 합니다.


또, N을 log a N의 진수라고 합니다.



오라클에서도 LOG함수를 지원합니다.



SQL> SELECT log(a, N) FROM dual;

 


위의 dual이란, 결과를 보기위한 가상의(더미) 테이블입니다. 



그럼 로그의 성질을 알아볼까요?



위의 성질이 성립함을 알고 싶으시다면 쉽게 찾아보실 수 있습니다.


여기서는 중요한 부분이 아니므로 pass!



문제1. 2log 3 6 - log 3 (4/9) 의 값을 구하여라.




상용로그란 무엇일까요?


우선 상용의 뜻은 항상 사용한다는 의미입니다.


우리가 가장 많이 사용하는 진법은 2진법도, 8진법도, 16진법도 아닌 10진법이죠?


따라서 상용로그는 로그에서 밑을 10으로 하는 로그라고 합니다!


따라서 다음과 같이 표기합니다.



log10 N = log N

 


즉 밑수가 없는 경우 상용로그라고 합니다!


상용로그도 오라클 로그함수로 사용할 수 있답니다.



문제2. 오라클 SQL문으로 다음의 값을 구하라



(1) log 123


(2) log 0.0345

 



상용로그 표를 보면 풀 수 있는 문제지만


ORACLE, R, PYTHON 등의 응용 프로그래밍 언어를 이용하면

보다 쉽게 풀 수 있답니다.



R과 PYTHON 등의 문법과 딥러닝에 사용하는 방법은


다음에 각 카테고리별로 가 포스팅하겠습니다~




오늘은 여기까지!


다음 포스팅은 2주뒤에 봐요~

반응형

+ Recent posts