본문 바로가기

XOR 역전파2

15. 다층 퍼셉트론(MLP) 등장 - 1.XOR 문제 해결(실습) 이전시간에 XOR 문제를 해결하기 위해 다층 퍼셉트론이 제시되었고 이를 순방향 전파와 역방향 전파 도함수를 수학적으로 구한 것을 확인하였다. 이번 시간에는 수학적으로 표현한 내용을 코드로 구현해 보겠다. 1. 데이터 준비 import numpy as np np.random.seed(220132) inputs = np.array([[0., 0.], [1., 0.], [0., 1.], [1., 1.]], dtype = np.float32) targets = np.array([[0.], [1.], [1.], [0.]], dtype = np.float32) W1 = np.random.randn(2, 2) # [[-1.02877142 1.37536642] [-1.4391631 -0.1623922 ]] B1 = n.. 2022. 1. 19.
14. 다층 퍼셉트론(MLP) 등장 - 1.XOR 문제 해결(심화이론) 이번 시간에는 XOR 문제 해결을 위한 다층 퍼셉트론의 순방향 전파, 역전파를 이용한 도함수를 구할 것이다. 저번 시간에 순방향 전파를 아래와 같이 정의하였다. 입력데이터를 정의하고 순서대로 G1, S1, G2, S2 연산을 하는 순방향 전파를 수학적으로 표현해보자. 1. 순전파(forward) 1) 데이터 정의 입력 데이터 Input과 목표값 데이터 Target은 다음과 같다. 2) G1 연산 (1) G1 연산의 가중치는 아래와 같이 정의한다. (2) 입력값에 대해 G1 연산을 실시한다. (입력 X가 전치해서 들어감에 주의) 3) S1연산 (1) S1연산은 시그모이드(Sigmoid, σ) 함수이다. (2) G1의 출력값에 대해 S1 연산을 실시한다. 4) G2연산 (1) G2 연산의 가중치는 아래와 같.. 2022. 1. 19.