Section 1. Chapitre 6
single
Challenge: Analyzing a Text File with RDDs
Glissez pour afficher le menu
Tâche
Glissez pour commencer à coder
Download the flights dataset and load it into a Spark DataFrame, then convert it to an RDD. Using only RDD transformations and actions – no DataFrame methods – complete the following:
- Count the total number of flights in the dataset and store it in
total_flights; - Filter flights where
DEPARTURE_DELAYis greater than 30 minutes, count them, and store the result indelayed_count; - From the delayed flights, extract unique airlines and store the sorted list in
delayed_airlines; - Find the maximum
DISTANCEvalue usingreduce()and store it inmax_distance.
Solution
Tout était clair ?
Merci pour vos commentaires !
Section 1. Chapitre 6
single
Demandez à l'IA
Demandez à l'IA
Posez n'importe quelle question ou essayez l'une des questions suggérées pour commencer notre discussion