Numpy 딥러닝12 35. [CNN기초] 원, 네모를 구별하는 CNN 만들기(이론) 1. 문제제기 아래 예시와 같이 원과 네모를 구별하는 문제가 있다. 3살짜리 아이도 맞출 만큼 굉장히 쉬운 문제다. 실전을 들어가 보자. 3 × 3 크기의 합성곱 필터 1개를 이용하여 합성곱 → relu → 2 × 2 필터 Max pooling → 분류기 fc → sigmoid를 이용하여 원과 네모를 분류할 수 있을까? 데이터를 구해보자. 본인은 데이터를 구할 때 kaggle을 열심히 이용한다. 아래와 같이 용량도 적절한 데이터를 찾았다. CC0:Public Domain 라이센스도 맘에 든다. 149.2kB인 착한 용량도 마음에 든다. 이 데이터는 원(Circle) 100장, 네모(Square) 100장, 삼각형(Triangle) 100장으로 구성된 28 × 28 데이터인데, 필터 1개만 이용할 것이므로.. 2023. 1. 28. 25 - Deep Neural Nets 구현하기 저번 시간까지 다층 퍼셉트론(Multi-Layer Perceptron, MLP)을 이용하여 학습을 시켜보았다. 정의에 대해 조금 더 이야기를 해 보자면 일반적으로 MLP는 고전적인, 완전 연결 신경망으로 볼 수 있는데 '일반적으로' 3개의 층에 sigmoid, tanh의 활성화 함수를 가진 신경망을 이야기한다. (본인의 예제에서 활성화 함수를 relu를 사용하였지만...) 여기서 DNN은 더 확장하여 순환(RNN, LSTM)을 할 수 있다던지, 완전 연결이 아니라던지, 활성화 함수가 0 또는 1이 아니라던지 등등 더욱 포괄적이고 상위적인 개념이 포함된다. 단순히 은닉 층 개수로 나눌 수는 없다. 제목은 DNN으로 거창하게 하였지만, 사실 MLP는 DNN의 하위개념이므로(...) 구현 상 큰 차이가 없다... 2022. 4. 20. 11. 단층 퍼셉트론의 한계-1.XOR 문제 1969년 우리가 지금까지 사용한 단층 퍼셉트론은 XOR 문제를 해결할 수 없다고 증명되었다. 인공지능 연구 진척이 더뎌지기 시작했는데 도대체 무슨 일이 있었던 걸까 1. 논리게이트 (Logic gate) 논리게이트는 쉽게 말해 회로에서 사용되는 논리적 연산을 위한 전자도구이다. 이러한 논리적 전자 도구가 없었다면 우리는 다양한 전자기기들을 사용하지 못했을 것이다. 어떻게 작동하는지 궁금하다면 아래 동영상을 참고해 보길 바란다. Making logic gates from transistors 논리게이트는 입력 신호를 논리적 처리를 하고 출력한다. 아래 표는 입력에 따른 출력을 나타낸다. 이번 시간은 4가지, OR, AND, NAND, XOR을 이야기 해 보겠다. 0 : 입력 없음 1 : 입력 있음 위의 .. 2022. 1. 11. 10. 단층 퍼셉트론 지금까지 했던 모델들은 모두 단층 퍼셉트론(또는 싱글 퍼셉트론) 연산이다. Numpy 딥러닝 시리즈를 보면 모두 단층 퍼셉트론으로 어설픈(?) 딥러닝을 구현한 것을 알 수 있을 것이다. 구체적으로 어떤 것을 했었는지 살펴보자. 1. 복습 1) '1.선형회귀 구현하기' 2) '3.입력 특성이 2개인 선형회귀 구현' 3) '4. 로지스틱 회귀 구현하기' 평균 득점(avg_score), 리바운드 횟수(rebound), 어시스트 횟수(asist)에 따른 신인 농구 선수의 NBA 드래프트 여부 (1:성공, 0:실패) 구현하기 4) '7. 다중 분류 구현하기' Iris 꽃 4개의 특성을 입력 받아 3개의 꽃으로 분류하기 2. 퍼셉트론 퍼셉트론(Perceptron)은 1943년에 제안된 아이디어로 쉽게 설명하자면 위.. 2022. 1. 10. 이전 1 2 3 다음