26. 특별편- 10분안에 미분 정리하기 (lec 09-2)
필요한 만큼만 알려주시려고 만든 미분 동영상. 개인적으로는 이걸로 미분 이해하기는 어려웠다. 다만 미분이 뭔지 대충 이해는 할 수 있었다.
함수가 f(x)니까, 이런 경우 x에 대해서 미분을 한다. 음.. 내가 미분을 설명한다는 것은 굉장한 문제가 있긴 하지만, 내가 아는 만큼 설명을 해 본다. 미분의 기본은 순간 변화량이다. x 변화량에 대한 y 변화량을 미분이라고 한다.
f(x) = 3이라면 x 값에 상관없이 항상 같은 값을 갖는다. x의 값이 바뀌어도 y는 항상 3이다.
f(1), f(2), f(3) 모두에 대해서 y는 3이다.
x에 대해서 y의 변화량이 존재하지 않기 때문에,
다시 말해 분모가 항상 0이기 때문에 분자(x 변화량)에 상관없이 결과는 0이 된다.
f(x) = 3에 대해 미분 결과는 0.
f(x) = x라면 x가 1 변할 때, y도 1 변한다는 뜻이다.
f(1) = 1, f(2) = 2, f(3) = 3이 된다.
x가 1씩 증가할 때마다 y 또한 1 증가한다는 것을 알 수 있다.
f(x) = x에 대한 미분 결과는 1이 된다.
f(x) = 2x라면 x가 1 변할 때, y는 2만큼 변한다.
f(1) = 2, f(2) = 4, f(3) = 6이 된다.
x가 1씩 증가할 때마다 y는 2씩 변하므로, 미분 결과는 2가 된다.
이전 그림에서 x에 대해 미분을 한다고 하면,
x가 없을 때는 미분 값이 존재할 수 없고, x가 있을 때는 x를 제거하면 되는 것처럼 보였다.
f(x,y) = xy라면 x가 1 증가할 때마다 y만큼 증가하게 된다.
f(1,y) = y, f(2,y) = 2y, f(3,y) = 3y이기 때문에 미분 결과는 y가 된다.
0이나 1 같은 상수가 아니어서 당황될 수도 있지만, y 단위로 변하는 것은 이해할 수 있을 것이다.
f(x,y) = xy에서 y로 미분을 한다면,
f(x,1) = x, f(x,2) = 2x, f(x,3) = 3x이기 때문에 미분 결과는 x가 된다.
f(x) = 2x = x + x는 f(x) = x가 두 번 나온 것과 같으므로 1+1이 되고 결과는 2가 된다.
f(x) = x + 3에서 x를 미분하면 1, 3을 미분하면 0이 되어서 결과는 1이다.
f(1) = 1+3, f(2) = 2+3, f(3) = 3+3이므로 x가 1 증가할 때마다 y 또한 1 증가한다. 미분 결과는 1이다.
f(x,y) = x+y를 x로 미분하면 x는 1이 되고, y는 x의 영향을 받지 않기 때문에 0이 된다.
그래서, 미분 전체 결과는 1이 된다. x+y는 x+3과 다를 것이 없다.
그림 오른쪽의 편미분은 잘 모르지만, 느낌만 이해를 했다. f(g(x)에 대해서 미분을 직접 하면 어렵기 때문에 순서대로 나눠서 미분을 한다. 먼저 안에 있는 g(x)로 미분을 하고, g(x)를 다시 x로 미분을 하는 방식이다. 이렇게 되면 δf/δg * δg/δx가 되기 때문에 δg를 약분하면 결과는 δf/δx가 된다. δ는 delta(델타)라고 읽고, 편미분에서의 변화량을 의미한다.
--------------------------------------------------------------------
수학천재의 도움을 받아 편미분을 조금 더 이해했다. 남자인 내가 아들을 낳으면 나를 얼마나 닮게 될까? 절반 정도 닮는다고 하자. 내 아들이 아들(손자)을 낳으면 나(할아버지)를 얼마나 닮게 될까? 아들의 반만 닮는다고 하자.
아들이 나를 닮을 확률 - 50/100(절반)
손자가 아들을 닮을 확률 - 50/100(절반)
그런데, 손자가 아들을 닮을 확률 50%를 아들이 나를 닮을 확률과 연결해서 계산하면, 25/50이 된다. 아들이 나를 닮을 확률이 50%니까. 그렇다면, 손자가 나를 닮을 확률은 얼마일까?
손자가 아들을 닮을 확률 * 아들이 나를 닮을 확률 = 25/50 * 50/100 = 25/100 = 1/4 = 0.25 = 25%
25/100에서 25는 손자의 확률, 100은 나 자신.
아들과 관련된 값이 약분되어 사라진다. 위의 공식에서도 g(x)가 사라지게 되고 결과는 δf/δx.
미분은 x가 바뀔 때의 y에 대한 변화량을 계산하는 공식. 할아버진인 내가 1만큼 바뀔 때, 손자는 어느 정도 바뀔 것인지와 같은 개념이다. 위의 사례로 보면 내가 1 바뀌면 손자는 0.25만큼 바뀐다.
'딥러닝_김성훈교수님' 카테고리의 다른 글
28. XOR을 위한 텐서플로우 딥네트웍 (lab 09-1) (0) | 2016.08.01 |
---|---|
27. 딥넷트웍 학습 시키기 (backpropagation) (lec 09-3) (0) | 2016.08.01 |
25. 파이썬으로 XOR 조합 찾아보기 (0) | 2016.08.01 |
24. XOR 문제 딥러닝으로 풀기 (lec 09-1) (0) | 2016.08.01 |
23. 딥러닝의 기본 개념2- Back-propagation 과 2006-2007 '딥'의 출현 (lec 08-2) (0) | 2016.07.31 |