Methoden des Deep Learnings haben in den letzten Jahren klassische Verfahren des maschinellen Lernens in vielen Bereichen überflügelt. Neben Computer-Vision ist das auch in den Bereichen Natural Language Processing und Textmining mehr und mehr der Fall. Wir möchten in dieser Veranstaltung eine Einführung in grundlegende Konzepte des Deep Learnings im Bereich Text Mining geben. Anhand praktischer Beispiele werden Word Embeddings und Recurrent Neural Networks als zentrale Methoden vorgestellt. Des weiteren befassen wir uns mit fortgeschrittenen Themen, wie beispielsweise Attention-based Networks oder generativem Deep Learning.
Wir haben den Kurs so gestaltet, dass wir wärend der Vorlesung immer wieder praktische Übungen machen werden. Das Mitbringen eines eigenen Laptops wird daher empfohlen.
Um das theoretische Wissen der Vorlesung zu verfestigen und auf die Klausur vorzubereiten müssen insgesamt 3 Übungsblätter bearbeitet werden. Ein selbstgewähltes praktisches Projekt stellt die Anwendung von Deep Learning für Text Mining in den Mittelpunkt.
Voraussetzungen
Ein Grundlagenwissen in Wahrscheinlichkeitstheorie wird vorausgesetzt, ebenso in linearer Algebra und insbesondere Differentialrechnung. Eine selbständige Auffrischung dieses Wissens wird von den Studierenden, falls nötig, erwartet. Da wir neben der praktischen Anwendung auch die theoretischen Grundlagen verstehen wollen, ist ein Vertiefung mathematischer Kenntnisse unumgänglich.
Lernziele: Studierende können ...
- Unterschiedliche Netztypen für Textmining erklären
- Anwendungsgebiete im Bereich Textmining identifizieren
- Geeignete Netzwerkarchitekturen auswählen
- Komponenten von neuronalen Netzen erklären
- Deep Learning in Python anwenden
- Eigene Text-Anwendungen entwerfen, implementieren und evaluieren
- Die theoretischen Grundlagen verstehen, insbesondere den Backpropagation-Algorithmus von Hand anwenden
- Grenzen von Deep Learning erkennen und haben einen Überblick über die aktuelle Forschung
- Gesellschaftliche Folgen des DL abschätzen und diskutieren
