Notice: This page requires JavaScript to function properly.
Please enable JavaScript in your browser settings or update your browser.
Leer Challenge: Analyzing a Text File with RDDs | Section
Introduction to PySpark
Sectie 1. Hoofdstuk 6
single

single

Challenge: Analyzing a Text File with RDDs

Veeg om het menu te tonen

Taak

Veeg om te beginnen met coderen

Download the flights dataset and load it into a Spark DataFrame, then convert it to an RDD. Using only RDD transformations and actions – no DataFrame methods – complete the following:

  1. Count the total number of flights in the dataset and store it in total_flights;
  2. Filter flights where DEPARTURE_DELAY is greater than 30 minutes, count them, and store the result in delayed_count;
  3. From the delayed flights, extract unique airlines and store the sorted list in delayed_airlines;
  4. Find the maximum DISTANCE value using reduce() and store it in max_distance.

Oplossing

Switch to desktopSchakel over naar desktop voor praktijkervaringGa verder vanaf waar je bent met een van de onderstaande opties
Was alles duidelijk?

Hoe kunnen we het verbeteren?

Bedankt voor je feedback!

Sectie 1. Hoofdstuk 6
single

single

Vraag AI

expand

Vraag AI

ChatGPT

Vraag wat u wilt of probeer een van de voorgestelde vragen om onze chat te starten.

some-alt