np.transpose1 5. 벡터 합성함수의 도함수 표현 벡터로 이루어진 합성함수의 도함수는 어떻게 표현할 수 있는지 알아보자. 지난 시간에 벡터 X, W에 대한 합성함수 f(X, W)를 아래와 같이 정의했었다. 1. 도함수 ∂f/∂X , ∂f/∂W 구하기 입력 변수는 X, W 두개이므로 각각에 대한 도함수 ∂f/∂X , ∂f/∂W 를 구하면 된다. 체인룰을 이용하여 구해보자 즉, ∂g/∂X , ∂g/∂W 를 구해야 한다는 것이다. (앞의 부분은 sigmoid 자체를 미분하면 되므로 쉽다) ∂g/∂X 에 대하여 각 요소를 구해보면 이렇게 표현할 수 있으므로 ∂g/∂X 를 구해보면 X에 대한 편미분이므로 W를 상수취급한다. 즉 결과는 아래와 같다. W행렬의 전치행렬(transpose matrix)이다. 즉, W의 shape가 (a, b)였다면 W의 전치행렬은 (.. 2021. 12. 29. 이전 1 다음
