Cleaning and Exploring Big Data using PySpark
Learn how to clean your big dataset in PySpark
Learn how to explore big dataset in PySpark
Learn how to create visualizations from big dataset loaded in PySpark
By the end of this project, you will learn how to clean, explore and visualize big data using PySpark. You will be using an open source dataset containing information on all the water wells in Tanzania. I will teach you various ways to clean and explore your big data in PySpark such as changing column’s data type, renaming categories with low frequency in character columns and imputing missing values in numerical columns. I will also teach you ways to visualize your data by intelligently converting Spark dataframe to Pandas dataframe. Cleaning and exploring big data in PySpark is quite different from Python due to the distributed nature of Spark dataframes. This guided project will dive deep into various ways to clean and explore your data loaded in PySpark. Data preprocessing in big data analysis is a crucial step and one should learn about it before building any big data machine learning model. Note: You should have a Gmail account which you will use to sign into Google Colab. Note: This course works best for learners who are based in the North America region. We’re currently working on providing the same experience in other regions.
Les compétences que vous développerez
- Cleaning
- Python Programming
- Data Visualization (DataViz)
- Apache Spark
- Exploratory Data Analysis
Apprendrez étape par étape
Votre enseignant(e) vous guidera étape par étape, grâce à une vidéo en écran partagé sur votre espace de travail :
Install Spark on Google Colab and load datasets in PySpark
Change column datatype, remove whitespaces and drop duplicates
Remove columns with Null values higher than a threshold
Group, aggregate and create pivot tables
Rename categories and impute missing numeric values
Create visualizations to gather insights
Comment fonctionnent les Projets Guidés
Votre espace de travail est un bureau cloud situé dans votre navigateur, aucun téléchargement n'est requis.
Votre enseignant(e) vous guide étape par étape dans une vidéo en écran partagé
Avis
Meilleurs avis pour CLEANING AND EXPLORING BIG DATA USING PYSPARK
More theory behind the functions used and concepts behind spark and how it works in a distributed way would've been more benefitting. Overall it was a worthy course.
Practical walk through of basic PySpark operations. Great quick-start to using Pyspark for data analysis
Foire Aux Questions
Foire Aux Questions
Que vais-je obtenir si j'achète un Projet Guidé ?
Les Projets Guidés sont-ils disponible sur ordinateur et sur mobile ?
Qui sont les enseignants pour les Projets Guidés ?
Puis-je télécharger le travail depuis mon Projet Guidé une fois que je l'ai terminé ?
Quelle est la politique de remboursement ?
Une aide financière est-elle disponible ?
Puis-je assister au Projet Guidé en tant qu'auditeur libre et regarder une partie de la vidéo gratuitement ?
De quelle expérience ai-je besoin pour réaliser ce Projet Guidé ?
Puis-je terminer ce Projet Guidé directement avec mon navigateur web, au lieu d'installer un logiciel spécial ?
Comment se présente l'expérience d'apprentissage pour les Projets Guidés ?
D'autres questions ? Visitez le Centre d'Aide pour les Étudiants.
Coursera Footer
