59 évaluations
4 417 déjà inscrits
Learn how to clean your big dataset in PySpark
Learn how to explore big dataset in PySpark
Learn how to create visualizations from big dataset loaded in PySpark
By the end of this project, you will learn how to clean, explore and visualize big data using PySpark. You will be using an open source dataset containing information on all the water wells in Tanzania. I will teach you various ways to clean and explore your big data in PySpark such as changing column’s data type, renaming categories with low frequency in character columns and imputing missing values in numerical columns. I will also teach you ways to visualize your data by intelligently converting Spark dataframe to Pandas dataframe. Cleaning and exploring big data in PySpark is quite different from Python due to the distributed nature of Spark dataframes. This guided project will dive deep into various ways to clean and explore your data loaded in PySpark. Data preprocessing in big data analysis is a crucial step and one should learn about it before building any big data machine learning model. Note: You should have a Gmail account which you will use to sign into Google Colab. Note: This course works best for learners who are based in the North America region. We’re currently working on providing the same experience in other regions.
Cleaning
Python Programming
Data Visualization (DataViz)
Apache Spark
Exploratory Data Analysis
Votre enseignant(e) vous guidera étape par étape, grâce à une vidéo en écran partagé sur votre espace de travail :
Install Spark on Google Colab and load datasets in PySpark
Change column datatype, remove whitespaces and drop duplicates
Remove columns with Null values higher than a threshold
Group, aggregate and create pivot tables
Rename categories and impute missing numeric values
Create visualizations to gather insights
Votre espace de travail est un bureau cloud situé dans votre navigateur, aucun téléchargement n'est requis.
Votre enseignant(e) vous guide étape par étape dans une vidéo en écran partagé
par NN
22 avr. 2022use case could be explained a little better, before actually going to the code
par SR
14 déc. 2020More theory behind the functions used and concepts behind spark and how it works in a distributed way would've been more benefitting. Overall it was a worthy course.
par JA
23 mars 2022fast and simple explanation about ow to start to work with Spak on Colab
par AA
21 août 2021Practical walk through of basic PySpark operations. Great quick-start to using Pyspark for data analysis
En achetant un Projet Guidé, vous obtenez tout ce dont vous avez besoin pour terminer ce Projet Guidé, y compris l'accès à un espace de travail de bureau cloud, via votre navigateur web, qui contient les fichiers et les logiciels dont vous avez besoin pour commencer, ainsi que les instructions vidéo étape par étape d'un expert en la matière.
Comme votre espace de travail contient un bureau cloud dimensionné pour un ordinateur portable ou de bureau, les Projets Guidés ne sont pas disponibles sur votre appareil mobile.
Les enseignants des Projets Guidés sont des experts en la matière qui ont de l'expérience dans les compétences, les outils ou le domaine de leur projet et qui sont passionnés par le partage de leurs connaissances avec des millions d'étudiants dans le monde.
À partir du Projet Guidé, vous pouvez télécharger et conserver tout fichier que vous avez créé. Pour ce faire, vous pouvez utiliser la fonction « Navigateur de fichiers » pendant que vous accédez à votre bureau cloud.
Aucun remboursement n'est disponible pour les Projets Guidés. Consulter notre politique de remboursement complète.
Aucune aide financière n'est disponible pour les Projets Guidés.
L'audit n'est pas disponible pour les Projets Guidés.
En haut de la page, vous pouvez appuyer sur le niveau d'expérience de ce Projet Guidé pour afficher les connaissances requises. Pour chaque niveau de Projet Guidé, votre enseignant vous guidera étape par étape.
Oui, tout ce dont vous avez besoin pour terminer votre Projet Guidé sera présent sur un bureau cloud disponible dans votre navigateur.
Vous apprenez en effectuant des tâches dans un environnement à écran partagé, directement dans votre navigateur. Sur le côté gauche de l'écran, vous terminez la tâche dans votre espace de travail. Sur le côté droit de l'écran, vous voyez un(e) enseignant(e) qui vous guide tout au long du projet, étape par étape.
D'autres questions ? Visitez le Centre d'Aide pour les Étudiants.
