This course will teach you the "magic" of getting deep learning to work well. Rather than the deep learning process being a black box, you will understand what drives performance, and be able to more systematically get good results. You will also learn TensorFlow.
After 3 weeks, you will:
- Understand industry best-practices for building deep learning applications.
- Be able to effectively use the common neural network "tricks", including initialization, L2 and dropout regularization, Batch normalization, gradient checking,
- Be able to implement and apply a variety of optimization algorithms, such as mini-batch gradient descent, Momentum, RMSprop and Adam, and check for their convergence.
- Understand new best-practices for the deep learning era of how to set up train/dev/test sets and analyze bias/variance
- Be able to implement a neural network in TensorFlow.
This is the second course of the Deep Learning Specialization.
Ce cours fait partie de la Spécialisation Deep Learning
Improving Deep Neural Networks: Hyperparameter tuning, Regularization and Optimization
proposé par
À propos de ce cours
4.9
29,287 notes
Compétences que vous acquerrez
HyperparameterTensorflowHyperparameter OptimizationDeep Learning
Programme du cours : ce que vous apprendrez dans ce cours
Semaine
18 heures pour terminer
Practical aspects of Deep Learning
15 vidéos (Total 131 min), 4 quiz
15 vidéos
Train / Dev / Test sets12 min
Bias / Variance8 min
Basic Recipe for Machine Learning6 min
Regularization9 min
Why regularization reduces overfitting?7 min
Dropout Regularization9 min
Understanding Dropout7 min
Other regularization methods8 min
Normalizing inputs5 min
Vanishing / Exploding gradients6 min
Weight Initialization for Deep Networks6 min
Numerical approximation of gradients6 min
Gradient checking6 min
Gradient Checking Implementation Notes5 min
Yoshua Bengio interview25 min
1 exercice pour s'entraîner
Practical aspects of deep learning20 min
Semaine
24 heures pour terminer
Optimization algorithms
11 vidéos (Total 92 min), 2 quiz
11 vidéos
Understanding mini-batch gradient descent11 min
Exponentially weighted averages5 min
Understanding exponentially weighted averages9 min
Bias correction in exponentially weighted averages4 min
Gradient descent with momentum9 min
RMSprop7 min
Adam optimization algorithm7 min
Learning rate decay6 min
The problem of local optima5 min
Yuanqing Lin interview13 min
1 exercice pour s'entraîner
Optimization algorithms20 min
Semaine
35 heures pour terminer
Hyperparameter tuning, Batch Normalization and Programming Frameworks
11 vidéos (Total 104 min), 2 quiz
11 vidéos
Tuning process7 min
Using an appropriate scale to pick hyperparameters8 min
Hyperparameters tuning in practice: Pandas vs. Caviar6 min
Normalizing activations in a network8 min
Fitting Batch Norm into a neural network12 min
Why does Batch Norm work?11 min
Batch Norm at test time5 min
Softmax Regression11 min
Training a softmax classifier10 min
Deep learning frameworks4 min
TensorFlow16 min
1 exercice pour s'entraîner
Hyperparameter tuning, Batch Normalization, Programming Frameworks20 min
4.9
3,239 avis40%
a commencé une nouvelle carrière après avoir terminé ces cours
35%
a bénéficié d'un avantage concret dans sa carrière grâce à ce cours
10%
a obtenu une augmentation de salaire ou une promotion
Meilleurs avis
par CV•Dec 24th 2017
Exceptional Course, the Hyper parameters explanations are excellent every tip and advice provided help me so much to build better models, I also really liked the introduction of Tensor Flow\n\nThanks.
par PG•Oct 31st 2017
Thank you Andrew!! I know start to use Tensorflow, however, this tool is not well for a research goal. Maybe, pytorch could be considered in the future!! And let us know how to use pytorch in Windows.
Enseignants
Andrew Ng
CEO/Founder Landing AI; Co-founder, Coursera; Adjunct Professor, Stanford University; formerly Chief Scientist,Baidu and founding lead of Google Brain
Head Teaching Assistant - Kian Katanforoosh
Lecturer of Computer Science at Stanford University, deeplearning.ai, Ecole CentraleSupelec
Teaching Assistant - Younes Bensouda Mourri
Mathematical & Computational Sciences, Stanford University, deeplearning.aiÀ propos de deeplearning.ai
deeplearning.ai is Andrew Ng's new venture which amongst others, strives for providing comprehensive AI education beyond borders.
À propos de la Spécialisation Deep Learning
If you want to break into AI, this Specialization will help you do so. Deep Learning is one of the most highly sought after skills in tech. We will help you become good at Deep Learning.
In five courses, you will learn the foundations of Deep Learning, understand how to build neural networks, and learn how to lead successful machine learning projects. You will learn about Convolutional networks, RNNs, LSTM, Adam, Dropout, BatchNorm, Xavier/He initialization, and more. You will work on case studies from healthcare, autonomous driving, sign language reading, music generation, and natural language processing. You will master not only the theory, but also see how it is applied in industry. You will practice all these ideas in Python and in TensorFlow, which we will teach.
You will also hear from many top leaders in Deep Learning, who will share with you their personal stories and give you career advice.
AI is transforming multiple industries. After finishing this specialization, you will likely find creative ways to apply it to your work.
We will help you master Deep Learning, understand how to apply it, and build a career in AI.
Foire Aux Questions
Quand aurai-je accès aux vidéos de cours et aux devoirs ?
Une fois que vous êtes inscrit(e) pour un Certificat, vous pouvez accéder à toutes les vidéos de cours, et à tous les quiz et exercices de programmation (le cas échéant). Vous pouvez soumettre des devoirs à examiner par vos pairs et en examiner vous-même uniquement après le début de votre session. Si vous préférez explorer le cours sans l'acheter, vous ne serez peut-être pas en mesure d'accéder à certains devoirs.
À quoi ai-je droit si je m'abonne à cette Spécialisation ?
Lorsque vous vous inscrivez au cours, vous bénéficiez d'un accès à tous les cours de la Spécialisation, et vous obtenez un Certificat lorsque vous avez réussi. Votre Certificat électronique est alors ajouté à votre page Accomplissements. À partir de cette page, vous pouvez imprimer votre Certificat ou l'ajouter à votre profil LinkedIn. Si vous souhaitez seulement lire et visualiser le contenu du cours, vous pouvez accéder gratuitement au cours en tant qu'auditeur libre.
Quelle est la politique de remboursement ?
Une aide financière est-elle possible ?
D'autres questions ? Visitez le Centre d'Aide pour les Etudiants.
Coursera propose un accès universel à la meilleure formation au monde,
en partenariat avec des universités et des organisations du plus haut niveau, pour proposer des cours en ligne.
© 2019 Coursera Inc. Tous droits réservés.
