본문 바로가기

coursera71

Hand SIGNS 분류 예제 (1) (tensorflow v2.3.0) Coursera Deep Learning 특화과정에 실습으로 진행했던 SIGNS dataset을 가지고, 위 이미지와 같이 분류를 해보도록 할 것입니다. Coursera 실습은 tensorflow 1로 진행되는데, 2버전에 맞추어서 한 번 구현해보도록 하겠습니다. 신경망은 이전에 고양이 분류와 같이 입력을 flatten해주고, 2개의 hidden layer를 갖도록 할 것이고, 우리가 구현해야 할 신경망의 구조는 다음과 같습니다. Input -> linear(25 units) -> relu -> linear(12 units) -> relu -> softmax(6 units) 1. Dataset 준비 import tensorflow as tf import numpy as.. 2020. 11. 17.
batch GD (with momentum, adam) 비교 (tensorflow v2.3.0 - jupyter notebook) 이번에는 momentum과 adam optimization을 사용해서 mini-batch GD, mini-batch GD with momentum, mini-batch GD with adam, 이 3가지의 학습을 비교해보도록 하겠습니다. mini-batch, momentum, adam에 대해서는 아래 게시글을 참조하시기 바랍니다. 2020/10/02 - [Coursera 강의/Deep Learning] - Optimization(최적화 알고리즘) : Mini-batch/Momentum/RMSprop/Adam Optimization(최적화 알고리즘) : Mini-batch/Momentum/RMSprop/Adam 해당 내용은 Courser.. 2020. 11. 16.
Initialization에 따른 학습 비교 (tensorflow v2.1.0 - jupyter notebook) 이번에는 Coursera Deep Learning 특화과정 두번째 강의 1주차에서 실습한 initialization 선택에 따른 학습비교를 tensorflow에서 구현해보도록 하겠습니다. 2020/09/26 - [Coursera 강의/Deep Learning] - [실습] Initialization 초기화 [실습] Initialization 초기화 해당 내용은 Coursera의 딥러닝 특화과정(Deep Learning Specialization)의 두 번째 강의 Improving Deep Neural Networks: Hyperparameter tuning, Regularization and Optimization를 듣고 정리한 내용입.. 2020. 11. 15.
Cat Classification (2) : L-layers Neural Network 2020/11/15 - [ML & DL/tensorflow] - Cat Classification (1) : simple neural network Cat Classification (1) : simple neural network 이번에는 Courser Deep learning 특화과정 첫번째강의 2주차 수업에서 실습했던, cat classification을 구현해보도록 하겠습니다. 2020/09/24 - [Coursera 강의/Deep Learning] - [실습] Logistic Regression with.. junstar92.tistory.com 위 글에 이어서 이번에는 L개의 layer를 가지는 Neural Network를 설계해보도록 하겠습니다. 구현은 tf.keras를 통해서 할 예정인데,.. 2020. 11. 15.
Cat Classification (1) : simple neural network 이번에는 Courser Deep learning 특화과정 첫번째강의 2주차 수업에서 실습했던, cat classification을 구현해보도록 하겠습니다. 2020/09/24 - [Coursera 강의/Deep Learning] - [실습] Logistic Regression with a Neural Network(can / non-cat classifier) [실습] Logistic Regression with a Neural Network(can / non-cat classifier) 해당 내용은 Coursera의 딥러닝 특화과정(Deep Learning Specialization)의 첫 번째 강의 Neural Networks and Deep Learning를 듣고 정리한 내용입니다. (Week 2).. 2020. 11. 15.
Convolutional Neural Networks(CNN) 해당 내용은 Coursera의 딥러닝 특화과정(Deep Learning Specialization)의 네 번째 강의 Convolutional Neural Networks를 듣고 정리한 내용입니다. (Week 1) Learning Objectives Explain the convolution operation Apply two different types of pooling operation Identify the components used in a convolutional neural network (padding, stride, filter, ...) and their purpose Build and train a ConvNet in TensorFlow for a classification probl.. 2020. 11. 8.
ML Strategy 2-2 (Transfer learning, Multi-task learning, End-to-end learning) 해당 내용은 Coursera의 딥러닝 특화과정(Deep Learning Specialization)의 세 번째 강의 Structuring Machine Learning Projects를 듣고 정리한 내용입니다. (Week 2) - Learning from multiple tasks [Transfer learning] 딥러닝의 강력함은 한 가지 Task에서 학습한 내용은 다른 Task에 적용을 할 수 있다는 것이다. 예를 들어서, Neural Network(NN)이 고양이와 같은 사진을 인식하도록 학습했을 때, 여기서 학습한 것을 가지고 부분적으로 X-ray 이미지를 인식하는데 도움이 되도록 할 수 있다. 이것이 바로 Transfer Learning이라고 한다. 이미지 인식 기능을 NN으로 학습을 했다고 .. 2020. 10. 30.
ML Strategy 2-1 (Error Analysis, Data mismatched) 해당 내용은 Coursera의 딥러닝 특화과정(Deep Learning Specialization)의 세 번째 강의 Structuring Machine Learning Projects를 듣고 정리한 내용입니다. (Week 2) - Error Analysis [Carrying out error analysis] 학습 알고리즘을 개발하면서 아직 학습 알고리즘이 인간레벨 수준의 성능에 미치지 못한다면, 수작업으로 알고리즘의 error들을 점검하는 것이 도움이 될 수 있다. 이런 프로세스를 Error Analysis라고 한다. 고양이 판별기를 예제로 살펴보도록 하자. 고양이를 분류하기 위한 학습 알고리즘을 개발하고 있고, 그 결과 90%의 정확도에 도달했다고 가정한다면, dev set에서 10%의 error를 .. 2020. 10. 28.
ML Strategy 1(orthogonalization, evaluation metric, human-level performance) 해당 내용은 Coursera의 딥러닝 특화과정(Deep Learning Specialization)의 세 번째 강의 Structuring Machine Learning Projects를 듣고 정리한 내용입니다. (Week 1) 이번 강의의 목표는 다음과 같다. Explain why Machine Learning strategy is important Apply satisficing and optimizing metrics to set up your goal for ML projects Choose a correct train/dev/test split of your dataset Define human-level performance Use human-level performance to define k.. 2020. 10. 25.
Multi-class classification(Softmax regression) 해당 내용은 Coursera의 딥러닝 특화과정(Deep Learning Specialization)의 두 번째 강의 Improving Deep Neural Networks: Hyperparameter tuning, Regularization and Optimization를 듣고 정리한 내용입니다. (Week 3) - Multi-class classification [Softmax Regression] Softmax Regression이란 Logistic Regression의 일반화된 버전으로, 이진분류가 아닌 클래스가 여러개인 경우에 예측이 가능할 수 있도록 하는 모델이다. 고양이만 인식하는 것이 아니라, 강아지, 그리고 병아리를 인식하고 싶을 때 사용이 가능할 것이다. 고양이를 class 1, 강아지를.. 2020. 10. 11.