본문 바로가기

딥러닝 이론34

13. 다층 퍼셉트론(MPL) 등장 - 1.XOR 문제 해결(기초이론) 1986년 다층 퍼셉트론(Multi-Layer Perceptrons, MLP)의 등장으로 XOR문제를 해결할 수 있게 되었다. 선형 분류 판별기를 추가함으로써 XOR 문제를 해결할 수 있게 된 것이다. XOR 문제를 어떻게 해결할 수 있는지 알아보자. 1. 논리 게이트의 조합 우리는 아래와 같이 XOR 논리 게이트가 무엇인지 원한다. 단일 논리 게이트로 XOR을 풀 수 없다면 아래 그림처럼 논리 게이트를 조합하면 해결할 수 있다. 이전 시간에 입력했던 자료를 각각 OR게이트와 NAND 게이트에 입력하면 아래와 같은 출력을 각각 얻을 수 있는데 이를 AND 게이트의 입력으로 만드는 것이다. 2. 이전 시간에 구했던 논리 게이트 perceptron의 가중치로 시각화 해 보자. OR perceptron의 가중.. 2022. 1. 18.
12. 단층 퍼셉트론의 한계-2.선형 회귀식의 한계 저번 차시에서 단층 퍼셉트론으로는 XOR 문제를 해결할 수 없다는 것을 알았다. 이번엔 실제로 와 닫는 문제를 가져왔다. 이번 목표는 단층 퍼셉트론으로 몸무게에 따른 키를 예측하는 모델을 만들어 보자. 몸무게와 키는 대략적으로 비례하는 것을 다들 알고 있을 것이다. 아기를 키워보면 알게되는 사실이 있는데 몸무게와 키가 정비례하는 것처럼 쭉쭉 큰다는 것이다. 그러다가 성장기가 지나면 키는 성장이 멈추지만 몸무게는 몸이 허락하는 한 한계가 없다(...) 이런 관계를 단층 퍼셉트론으로 모델을 만들 수 있을까? 1. 데이터 준비 및 확인 위의 파일을 임포트 하고 입력값, 목표값 등을 나누고 그래프를 그려보자 import numpy as np import matplotlib.pyplot as plt from nu.. 2022. 1. 12.
10. 단층 퍼셉트론 지금까지 했던 모델들은 모두 단층 퍼셉트론(또는 싱글 퍼셉트론) 연산이다. Numpy 딥러닝 시리즈를 보면 모두 단층 퍼셉트론으로 어설픈(?) 딥러닝을 구현한 것을 알 수 있을 것이다. 구체적으로 어떤 것을 했었는지 살펴보자. 1. 복습 1) '1.선형회귀 구현하기' 2) '3.입력 특성이 2개인 선형회귀 구현' 3) '4. 로지스틱 회귀 구현하기' 평균 득점(avg_score), 리바운드 횟수(rebound), 어시스트 횟수(asist)에 따른 신인 농구 선수의 NBA 드래프트 여부 (1:성공, 0:실패) 구현하기 4) '7. 다중 분류 구현하기' Iris 꽃 4개의 특성을 입력 받아 3개의 꽃으로 분류하기 2. 퍼셉트론 퍼셉트론(Perceptron)은 1943년에 제안된 아이디어로 쉽게 설명하자면 위.. 2022. 1. 10.
9. 다중 분류 구현하기(심화실습) 이전시간에 언급한 대로, Iris 꽃 데이터 중 일부(30개)를 불러와 학습해 볼 것이다. 아래 파일을 임포트한다. 사용하기 쉽게 미리 원-핫 인코딩을 하였다. 1. 데이터 준비 파일을 임포트하고 슬라이스를 통해 입력데이터 input, 목표값 데이터 target으로 분리한다. import numpy as np from numpy import genfromtxt np.random.seed(220106) data = genfromtxt('IRIS_tiny_onehot.csv', delimiter=',', skip_header=1) input = data[:, 0:4] target = data[:, 4:7] W = np.random.randn(3, 4) B = np.random.randn(3, 1) learn.. 2022. 1. 9.

티스토리툴바