pbj0812의 코딩 일기

0. 목차 및 내용 1) A Single Neuron - 뉴런 설명 - keras.Sequential 을 이용한 인풋 설계까지 2) Deep Neural Networks - 활성화 함수, ReLU, 레이어 쌓기 3) Stochastic Gradient Descent - 로스 함수, 옵티마이저, 학습률, 배치 사이즈 4) Overfitting and Underfitting - 언더피팅, 오버피팅, - 적정한 구간을 찾기 위한 Early Stopping - 문제 도중에 csv 가 없다는 일이 발생하였는데 아래 그림과 같이 우상단의 add data 를 누르고 spotify.csv 를 받은 이후 위치 설정하면 해결 5) Dropout and Batch Normalization - 드롭아웃 - Batch Norm..

"한빛미디어 활동을 위해서 책을 제공받아 작성된 서평입니다." 0. 도서 정보 - 도서명 : 친절한 딥러닝 수학 - 저자 : 다테이시 겐고 - 구매링크 : 교보문고 1. 서평 1) 서평 이 도서는 딥러닝의 기본이 되는 퍼셉트론, 경사하강법, 역전파 등의 이론을 윤서, 지우, 도현이라는 가상의 세 인물이 나누는 이야기로 풀어내었다. 지우(딥러닝전공자) 가 윤서(프로그래머) 에게 딥러닝 이론에 대한 것을 알려주는 형식으로 진행이 되기에 수식을 처음 접하시는 분들이 조금이나마 읽기 편하도록 제작이 되었다. 특히, 개인적으로 관심있게 본 부분은 각 챕터 끝부분의 'COLUMN' 부분이다. 해당 'COLUMN' 에서는 도현(전공학부 학생, 동생) 이 윤서(누나) 에게 짜투리 상식 혹은 책을 읽다가 궁금했던 부분을..

0. 목표 - 텐서플로를 활용한 긍부정 판별기 제작 1. 실습 1) library 호출 import numpy as np from tensorflow.keras.datasets import imdb from tensorflow.keras.preprocessing import sequence from tensorflow.keras.utils import to_categorical from tensorflow.keras.layers import LSTM import tensorflow as tf import matplotlib.pyplot as plt 2) 데이터 셋 다운로드 - imdb dataset : 영화 리뷰 및 긍 부정 결과 포함 - num_words : 가장 빈번한 단어 (x_train_all, ..

이 글은 TensorFlow tutorial(링크)의 예제를 재구성한 글입니다. TensorFlow의 keras를 이용하여 fashion mnist 데이터를 학습하고 예측하는 예제입니다. 학습에 필요한 부분만 정리하였으니 전체코드는 위 링크를 통해 보시기 바랍니다. 라이브러리 불러오기 import tensorflow as tf from tensorflow import keras import numpy as np import matplotlib.pyplot as plt - tensorflow의 keras 사용 데이터 불러오기 fashion_mnist = keras.datasets.fashion_mnist (train_images, train_labels), (test_images, test_labels) ..

Pytorch with examples (autograd 재정의) 코드 분석 - 아래 글은 파이토치 튜토리얼 중 nn module을 사용하는 부분을 재구성한 글입니다. - 학습하기 위해 코드를 잘라서 설명하였기 때문에 전체 코드는 깃허브나 아래 링크 참조 바랍니다. 원본링크 : https://pytorch.org/tutorials/beginner/pytorch_with_examples.html nn module - PyTorch의 autograd 기능은 복잡한 연산자를 정의하고 유도해내는데 편하지만, 큰 뉴럴 네트워크에서는 구성하는데 어려움이 많다. - TensorFlow에서는 이러한 어려움을 극복하기 위해 Keras, TensorFlow-Slim, TFLearn등을 사용한다. - PyTorch에서는 동..

Pytorch with examples (autograd 재정의) 코드 분석 - 아래 글은 파이토치 튜토리얼 중 autograd를 재정의 하는 부분을 학습하여 영상으로 만든 것을 재구성한 글입니다. 원본링크 : https://pytorch.org/tutorials/beginner/pytorch_with_examples.html 유투브 영상 : https://youtu.be/TclwMS-eZuU 한글 주석 코드: https://github.com/pbj0812/deep_learning/blob/master/pytorch_tutorial/learning_pytorch_with_examples_new_func.ipynb 코드 프리뷰 기본구조 - 기존과 동일하다. 함수 재정의 class MyReLU(torch...

Pytorch with examples (autograd) 코드 분석 - 아래 글은 파이토치 튜토리얼 중 autograd 부분을 학습하여 영상으로 만든 것을 재구성한 글입니다. 원본링크 : https://pytorch.org/tutorials/beginner/pytorch_with_examples.html 유투브 영상 : https://youtu.be/U6cOIda_9y0 한글 주석 코드: https://github.com/pbj0812/deep_learning/blob/master/pytorch_tutorial/learning_pytorch_with_examples_autograd.ipynb Autograd 장점 backward 계산시 수동으로 직접 구현할 필요가 없다. 코드 프리뷰 - 전체적으로 짧아..

Pytorch with examples (numpy) 코드 분석 - 아래 글은 파이토치 튜토리얼 중 numpy 부분을 학습하여 영상으로 만든 것을 재구성한 글입니다. 원본링크 : https://pytorch.org/tutorials/beginner/pytorch_with_examples.html 유투브 영상 : https://youtu.be/ovENuzUM_5k 한글 주석 코드: https://github.com/pbj0812/deep_learning/blob/master/pytorch_tutorial/learning_pytorch_with_examples _numpy.ipynb 코드 프리뷰 - 전체 코드이다. - 비교적 짧게 구성되어 있다. 설계도 - 위 코드를 프리뷰하여 작성한 설계도이다. - hid..