Optimize TensorFlow Models For Deployment with TensorRT

4.6
étoiles

56 évaluations

Offert par

3 394 déjà inscrits

Dans ce Projet Guidé gratuit, vous :

Optimize Tensorflow models using TensorRT (TF-TRT)

Use TF-TRT to optimize several deep learning models at FP32, FP16, and INT8 precision

Observe how tuning TF-TRT parameters affects performance and inference throughput

Mettez en valeur cette expérience pratique dans un entretien

1.5 hours
Intermédiaire
Aucun téléchargement requis
Vidéo en écran partagé
Anglais
Ordinateur de bureau uniquement

This is a hands-on, guided project on optimizing your TensorFlow models for inference with NVIDIA's TensorRT. By the end of this 1.5 hour long project, you will be able to optimize Tensorflow models using the TensorFlow integration of NVIDIA's TensorRT (TF-TRT), use TF-TRT to optimize several deep learning models at FP32, FP16, and INT8 precision, and observe how tuning TF-TRT parameters affects performance and inference throughput. Prerequisites: In order to successfully complete this project, you should be competent in Python programming, understand deep learning and what inference is, and have experience building deep learning models in TensorFlow and its Keras API. Note: This course works best for learners who are based in the North America region. We’re currently working on providing the same experience in other regions.

Conditions

It is assumed that are competent in Python programming and have prior experience with building deep learning models with TensorFlow and its Keras API

Les compétences que vous développerez

  • Deep Learning

  • NVIDIA TensorRT (TF-TRT)

  • Python Programming

  • Tensorflow

  • keras

Apprendrez étape par étape

Votre enseignant(e) vous guidera étape par étape, grâce à une vidéo en écran partagé sur votre espace de travail :

  1. Introduction and Project Overview

  2. Setup your TensorFlow and TensorRT Runtime

  3. Load the Data and Pre-trained InceptionV3 Model

  4. Create batched Input

  5. Load the TensorFlow SavedModel

  6. Get Baseline for Prediction Throughput and Accuracy

  7. Convert a TensorFlow saved model into a TF-TRT Float32 Graph

  8. Benchmark TF-TRT Float32

  9. Convert to TF-TRT Float16 and Benchmark

  10. Converting to TF-TRT INT8

Comment fonctionnent les Projets Guidés

Votre espace de travail est un bureau cloud situé dans votre navigateur, aucun téléchargement n'est requis.

Votre enseignant(e) vous guide étape par étape dans une vidéo en écran partagé

Enseignant

Avis

Meilleurs avis pour OPTIMIZE TENSORFLOW MODELS FOR DEPLOYMENT WITH TENSORRT

Voir tous les avis

Foire Aux Questions

Comme votre espace de travail contient un bureau cloud dimensionné pour un ordinateur portable ou de bureau, les Projets Guidés ne sont pas disponibles sur votre appareil mobile.

Les enseignants des Projets Guidés sont des experts en la matière qui ont de l'expérience dans les compétences, les outils ou le domaine de leur projet et qui sont passionnés par le partage de leurs connaissances avec des millions d'étudiants dans le monde.

À partir du Projet Guidé, vous pouvez télécharger et conserver tout fichier que vous avez créé. Pour ce faire, vous pouvez utiliser la fonction « Navigateur de fichiers » pendant que vous accédez à votre bureau cloud.

En haut de la page, vous pouvez appuyer sur le niveau d'expérience de ce Projet Guidé pour afficher les connaissances requises. Pour chaque niveau de Projet Guidé, votre enseignant vous guidera étape par étape.

Oui, tout ce dont vous avez besoin pour terminer votre Projet Guidé sera présent sur un bureau cloud disponible dans votre navigateur.

Vous apprenez en effectuant des tâches dans un environnement à écran partagé, directement dans votre navigateur. Sur le côté gauche de l'écran, vous terminez la tâche dans votre espace de travail. Sur le côté droit de l'écran, vous voyez un(e) enseignant(e) qui vous guide tout au long du projet, étape par étape.