Notice: This page requires JavaScript to function properly.
Please enable JavaScript in your browser settings or update your browser.
Вивчайте Challenge: Analyzing a Text File with RDDs | Section
Introduction to PySpark
Секція 1. Розділ 6
single

single

Challenge: Analyzing a Text File with RDDs

Свайпніть щоб показати меню

Завдання

Проведіть, щоб почати кодувати

Download the flights dataset and load it into a Spark DataFrame, then convert it to an RDD. Using only RDD transformations and actions – no DataFrame methods – complete the following:

  1. Count the total number of flights in the dataset and store it in total_flights;
  2. Filter flights where DEPARTURE_DELAY is greater than 30 minutes, count them, and store the result in delayed_count;
  3. From the delayed flights, extract unique airlines and store the sorted list in delayed_airlines;
  4. Find the maximum DISTANCE value using reduce() and store it in max_distance.

Рішення

Switch to desktopПерейдіть на комп'ютер для реальної практикиПродовжуйте з того місця, де ви зупинились, використовуючи один з наведених нижче варіантів
Все було зрозуміло?

Як ми можемо покращити це?

Дякуємо за ваш відгук!

Секція 1. Розділ 6
single

single

Запитати АІ

expand

Запитати АІ

ChatGPT

Запитайте про що завгодно або спробуйте одне із запропонованих запитань, щоб почати наш чат

some-alt