Notice: This page requires JavaScript to function properly.
Please enable JavaScript in your browser settings or update your browser.
Aprende Challenge: Analyzing a Text File with RDDs | Section
Introduction to PySpark
Sección 1. Capítulo 6
single

single

Challenge: Analyzing a Text File with RDDs

Desliza para mostrar el menú

Tarea

Desliza para comenzar a programar

Download the flights dataset and load it into a Spark DataFrame, then convert it to an RDD. Using only RDD transformations and actions – no DataFrame methods – complete the following:

  1. Count the total number of flights in the dataset and store it in total_flights;
  2. Filter flights where DEPARTURE_DELAY is greater than 30 minutes, count them, and store the result in delayed_count;
  3. From the delayed flights, extract unique airlines and store the sorted list in delayed_airlines;
  4. Find the maximum DISTANCE value using reduce() and store it in max_distance.

Solución

Switch to desktopCambia al escritorio para practicar en el mundo realContinúe desde donde se encuentra utilizando una de las siguientes opciones
¿Todo estuvo claro?

¿Cómo podemos mejorarlo?

¡Gracias por tus comentarios!

Sección 1. Capítulo 6
single

single

Pregunte a AI

expand

Pregunte a AI

ChatGPT

Pregunte lo que quiera o pruebe una de las preguntas sugeridas para comenzar nuestra charla

some-alt