PySpark – Teil 3: Datenverarbeitung mit Spark SQL

Im dritten Teil unserer PySpark-Reihe steht die Datenverarbeitung mit Spark SQL im Mittelpunkt. Spark SQL ermöglicht es, strukturierte Daten in Apache Spark mit vertrauter SQL-Syntax abzufragen und zu analysieren – kombiniert mit der Skalierbarkeit verteilter Big-Data-Verarbeitung und der nahtlosen Integration von Python.

Wir beginnen mit einem Überblick über die Architektur und Funktionsweise von Spark SQL. Anschließend lernst du, Daten zu filtern, zu sortieren und zu aggregieren. Darüber hinaus vertiefst du dein Wissen durch die Anwendung von Joins, Unterabfragen (Subqueries) und fortgeschritteneren SQL-Abfragen. Zum Schluss erfährst du, wie du deine Abfragen mit dem Catalyst Optimizer optimierst.

Übungsaufgaben begleiten dich durch diesen Kurs. Damit kannst du das Gelernte praktisch anwenden und festigen.

Die Reihe zu PySpark umfasst folgende Kurse:

• PySpark – Teil 1: Spark-Grundlagen und Datenmanipulation

• PySpark – Teil 2: Datenverarbeitung mit PySpark DataFrames

• PySpark – Teil 3: Datenverarbeitung mit Spark SQL

• PySpark – Teil 4: Machine Learning mit Spark MLlib
  

Alle Lektionen im Überblick:

• 1. Vorstellung und Infos zum Kurs

  • Herzlich willkommen zu diesem Kurs

• 2. Schnelleinstieg in PySpark

  • Kapitelüberblick

  • Kurzeinführung in PySpark

• 3. Datenverarbeitung mit Spark SQL

  • Kapitelüberblick

  • Theorie: Überblick über Spark SQL und seine Architektur

  • Spark SQL in der Praxis

  • Einfache Filterungen

  • Erweiterte Filterungen

  • Ordnen und Sortieren von Datensätzen

  • Aufgabe: Sortieren und Filtern von Datensätzen

  • Lösung: Sortieren und Filtern von Datensätzen

  • Gruppierungen und Aggregationen

  • Fehlende Daten mit NULL

  • Join-Operationen zwischen DataFrames

  • Unterabfragen (Subqueries)

  • Komplexere Abfragen

  • Catalyst Optimizer

  • Aufgabe: Gruppierungen und Joins

  • Lösung: Gruppierungen und Joins

  • Quiz: Datenverarbeitung mit Spark SQL

• 4. Abschluss

  • Fazit und Kursabschluss

So lernst du mit diesem Videokurs:

In den Videokursen der heise academy lernst du IT-Themen anschaulich und verständlich. Du siehst den Experten bei der praktischen Arbeit zu und lässt dir dabei alles genau erklären. Das Wissen ist in kompakte Lerneinheiten unterteilt, sodass du den Kurs Schritt für Schritt durcharbeiten oder gezielt zu Lektionen springen kannst, die dich interessieren. Die persönliche Lernumgebung der heise academy hält viele Funktionen für dich bereit, die dich beim Lernen unterstützen:

• Flexibler Videoplayer mit vielen Steuerungsmöglichkeiten

• Wissensquiz zur Lernkontrolle

• Lernhistorie und Lernfortschritt

• Lesezeichen und Notizen

• Volltextsuche in den Videos

• Frage-den-Experten-Modul

• Übungsmaterial zum Mitmachen

• Responsive Web-App und Videostreaming für alle Endgeräte

Technische Voraussetzungen:

Für diesen Videokurs werden lediglich ein Browser (mit eingeschalteter JavaScript-Funktionalität) und eine Internetverbindung benötigt.