PySpark – Teil 4: Machine Learning mit Spark MLlib

Der letzte Teil unserer PySpark-Reihe beleuchtet die praktischen Anwendungsmöglichkeiten von Spark MLlib, der Machine-Learning-Bibliothek von Apache Spark. Diese stellt eine Vielzahl von Algorithmen für maschinelles Lernen bereit und ermöglicht das Trainieren von Modellen auf großen Datenmengen – skalierbar und mit nativer Python-Unterstützung.

In drei Praxisprojekten setzen wir Schritt für Schritt typische ML-Aufgaben um. Zunächst erstellen wir eine Umsatzprognose aus Basis einer linearen Regression. Anschließend geht es an die Vorhersage von Kundenabwanderungen mithilfe baumbasierter Verfahren. Zum Abschluss nutzen wir das Gaussian-Mixture-Modell zum Clustering der Laufleistung von Marathonläufern.

Am Anfang der drei Projekte steht die Datenvisualisierung, die es dir erlaubt, Muster zu erkennen und eine Modellauswahl vorzunehmen. Dann geht es an das Aufsetzen und Trainieren der ML-Modelle. Und nicht zuletzt erfährst du, wie du die Vorhersagen der Modelle interpretierst und deren Performance anhand von Metriken bewertest.

Die Reihe zu PySpark umfasst folgende Kurse:

• PySpark – Teil 1: Spark-Grundlagen und Datenmanipulation

• PySpark – Teil 2: Datenverarbeitung mit PySpark DataFrames

• PySpark – Teil 3: Datenverarbeitung mit Spark SQL

• PySpark – Teil 4: Machine Learning mit Spark MLlib

Alle Lektionen im Überblick:

• 1. Vorstellung und Infos zum Kurs

  • Herzlich willkommen zu diesem Kurs

• 2. Einführung

  • Kapitelüberblick

  • Kurzeinführung in PySpark

  • Theorie: Überblick über MLlib und seine Komponenten

• 3. MLlib-Projekt 1 – Umsatzprognose mithilfe linearer Regression

  • Kapitelüberblick

  • Vorstellung der Projektdaten und Vorbereitung

  • Explorative Datenanalyse mit Spark: Erste Einblicke gewinnen

  • Zusammenhänge erkennen: Korrelationen und Muster

  • Verteilungen und Histogramme: Datenstruktur visualisieren

  • Regression mit Spark MLlib: Setup und Grundlagen

  • Datenaufteilung: Trainings- und Testdaten korrekt aufteilen

  • Modelltraining mit Spark MLlib: Umsatz vorhersagen

  • Modellauswertung: Achsenabschnitt und Regressionskoeffizienten über Regressionsfunktion interpretieren

  • Modellvorhersagen

  • Bewertungsmetriken auswerten

  • Zusammenfassung und Optimierungsvorschläge

  • Quiz: MLlib-Projekt 1 – Umsatzprognose mithilfe linearer Regression

• 4. MLlib-Projekt 2 – Kündigungen vorhersagen mit baum­basierten Lernverfahren

  • Kapitelüberblick

  • Vorstellung der Projektdaten und Problemstellung

  • Vorbereitung und Datenimport

  • Explorative Datenanalyse: Muster und Auffälligkeiten erkennen

  • Visualisierung der Kündigungen

  • Visualisierung der Kundenzufriedenheit

  • Decision-Tree-Modell: Setup und Grundlagen

  • Datenaufteilung und Modelltraining

  • Modellvorhersagen interpretieren und Baumstruktur analysieren

  • Modellbewertung

  • Konfusionsmatrix erstellen und interpretieren

  • Random-Forest-Modell trainieren und evaluieren

  • Gradient-Boosted-Tree-Modell trainieren und evaluieren

  • Zusammenfassung und Optimierungsvorschläge

  • Quiz: MLlib-Projekt 2 – Kündigungen vorhersagen mit baum­basierten Lernverfahren

• 5. MLlib-Projekt 3 – Clustering von Marathonathleten mit dem Gaussian-Mixture-Modell

  • Kapitelüberblick

  • Vorstellung der Fallstudie

  • Visualisierung: Regplot, Pairplot und Korrelationsmatrix

  • Visualisierung: Scatterplot, Boxplot, FacetGrid-Histogramm

  • Clustering-Modell trainieren

  • Clusterspalte im DataFrame hinzufügen

  • Cluster grafisch visualisieren

  • Quiz: MLlib-Projekt 3 – Clustering von Marathonathleten mit dem Gaussian-Mixture-Modell

• 6. Abschluss

  • Fazit und Kursabschluss

So lernst du mit diesem Videokurs:

In den Videokursen der heise academy lernst du IT-Themen anschaulich und verständlich. Du siehst den Experten bei der praktischen Arbeit zu und lässt dir dabei alles genau erklären. Das Wissen ist in kompakte Lerneinheiten unterteilt, sodass du den Kurs Schritt für Schritt durcharbeiten oder gezielt zu Lektionen springen kannst, die dich interessieren. Die persönliche Lernumgebung der heise academy hält viele Funktionen für dich bereit, die dich beim Lernen unterstützen:

• Flexibler Videoplayer mit vielen Steuerungsmöglichkeiten

• Wissensquiz zur Lernkontrolle

• Lernhistorie und Lernfortschritt

• Lesezeichen und Notizen

• Volltextsuche in den Videos

• Frage-den-Experten-Modul

• Übungsmaterial zum Mitmachen

• Responsive Web-App und Videostreaming für alle Endgeräte

Technische Voraussetzungen:

Für diesen Videokurs werden lediglich ein Browser (mit eingeschalteter JavaScript-Funktionalität) und eine Internetverbindung benötigt.