Deep Learning NLP: Training GPT-2 from scratch

4.1
étoiles
46 évaluations
Offert par
Coursera Project Network
3,152 déjà inscrits
Dans ce projet guidé, vous :

Understand the history of GPT-2 and Transformer Architecture Basics

Learn the requirements for a custom training set

Learn how to use functions available in public repositories to fine-tune or train GPT-2 on custom data and generate text

Clock2 hours
BeginnerDébutant
CloudAucun téléchargement requis
VideoVidéo en écran partagé
Comment DotsAnglais
LaptopOrdinateur de bureau uniquement

In this 1-hour long project-based course, we will explore Transformer-based Natural Language Processing. Specifically, we will be taking a look at re-training or fine-tuning GPT-2, which is an NLP machine learning model based on the Transformer architecture. We will cover the history of GPT-2 and it's development, cover basics about the Transformer architecture, learn what type of training data to use and how to collect it, and finally, perform the fine tuning process. In the final task, we will discuss use cases and what the future holds for Transformer-based NLP. I would encourage learners to do further research and experimentation with the GPT-2 model, as well as other NLP models! Note: This course works best for learners who are based in the North America region. We’re currently working on providing the same experience in other regions.

Les compétences que vous développerez

Artificial Intelligence (AI)TensorflowMachine LearningNatural Language Processing

Apprendrez étape par étape

Votre enseignant(e) vous guidera étape par étape, grâce à une vidéo en écran partagé sur votre espace de travail :

  1. Introducing GPT-2

  2. Intro to Transformers

  3. Gathering a Dataset

  4. Training and Fine Tuning our Model

  5. Use Cases and the Future

Comment fonctionnent les projets guidés

Votre espace de travail est un bureau cloud situé dans votre navigateur, aucun téléchargement n'est requis.

Votre enseignant(e) vous guide étape par étape dans une vidéo en écran partagé

Avis

Meilleurs avis pour DEEP LEARNING NLP: TRAINING GPT-2 FROM SCRATCH

Voir tous les avis

Foire Aux Questions

Foire Aux Questions

D'autres questions ? Visitez le Centre d'Aide pour les Etudiants.