Deep Learning für Text Mining (Wintersemester 2018/2019)
Lecturer:
Prof. Dr. Ralf Krestel
(Information Systems)
Tutors:
Tim Repke
Julian Risch
Course Website:
https://hpi.de/en/naumann/teaching/teaching/ws-1819/deep-learning-fuer-text-mining.html
General Information
- Weekly Hours: 2
- Credits: 3
- Graded:
yes
- Enrolment Deadline: 26.10.2018
- Teaching Form: Lecture / Exercise
- Enrolment Type: Compulsory Elective Module
Programs, Module Groups & Modules
- OSIS: Operating Systems & Information Systems Technology
- HPI-OSIS-K Konzepte und Methoden
- OSIS: Operating Systems & Information Systems Technology
- HPI-OSIS-S Spezialisierung
- OSIS: Operating Systems & Information Systems Technology
- HPI-OSIS-T Techniken und Werkzeuge
- DATA: Data Analytics
- HPI-DATA-K Konzepte und Methoden
- DATA: Data Analytics
- HPI-DATA-T Techniken und Werkzeuge
- DATA: Data Analytics
- HPI-DATA-S Spezialisierung
- CODS: Complex Data Systems
- HPI-CODS-K Konzepte und Methoden
- CODS: Complex Data Systems
- HPI-CODS-T Techniken und Werkzeuge
- CODS: Complex Data Systems
- HPI-CODS-S Spezialisierung
- APAD: Acquisition, Processing and Analysis of Health Data
- HPI-APAD-C Concepts and Methods
- APAD: Acquisition, Processing and Analysis of Health Data
- HPI-APAD-T Technologies and Tools
- APAD: Acquisition, Processing and Analysis of Health Data
- HPI-APAD-S Specialization
Description
Methoden des Deep Learnings haben in den letzten Jahren klassische Verfahren des maschinellen Lernens in vielen Bereichen überflügelt. Neben Computer-Vision ist das auch in den Bereichen Natural Language Processing und Textmining mehr und mehr der Fall. Wir möchten in dieser Veranstaltung eine Einführung in grundlegende Konzepte des Deep Learnings im Bereich Text Mining geben. Anhand praktischer Beispiele werden Word Embeddings und Recurrent Neural Networks als zentrale Methoden vorgestellt. Des weiteren befassen wir uns mit fortgeschrittenen Themen, wie beispielsweise Attention-based Networks oder generativem Deep Learning.
Lernziele: Studierende können ...
- Unterschiedliche Netztypen für Textmining erklären
- Anwendungsgebiete im Bereich Textmining identifizieren
- Geeignete Netzwerkarchitekturen auswählen
- Komponenten von neuronalen Netzen erklären
- Deep Learning in Python anwenden
- Eigene Text-Anwendungen entwerfen, implementieren und evaluieren
- Die theoretischen Grundlagen verstehen, insbesondere den Backpropagation-Algorithmus von Hand anwenden
- Grenzen von Deep Learning erkennen und haben einen Überblick über die aktuelle Forschung
- Gesellschaftliche Folgen des DL abschätzen und diskutieren
Requirements
Ein Grundlagenwissen in Wahrscheinlichkeitstheorie wird vorausgesetzt, ebenso in linearer Algebra und insbesondere Differentialrechnung. Eine selbständige Auffrischung dieses Wissens wird von den Studierenden, falls nötig, erwartet. Da wir neben der praktischen Anwendung auch die theoretischen Grundlagen verstehen wollen, ist ein Vertiefung mathematischer Kenntnisse unumgänglich.
Literature
Einführende, vorlesungsbegleitende Literatur
- Deep Lerning with Python von Francois Chollet
Fortgeschrittene Literatur
- Deep Learning von Ian Goodfellow, Yoshua Bengio, und Aaron Courville
Examination
Um das theoretische Wissen der Vorlesung zu verfestigen und auf die Klausur vorzubereiten müssen insgesamt 3 Übungsblätter bearbeitet werden. Ein selbstgewähltes praktisches Projekt stellt die Anwendung von Deep Learning für Text Mining in den Mittelpunkt.
Zurück
