Hasso-Plattner-InstitutSDG am HPI
Hasso-Plattner-InstitutDSG am HPI
Login
 

Explainable AI by Visual Analytics (Wintersemester 2022/2023)

Lecturer: Prof. Dr. Jürgen Döllner (Computergrafische Systeme) , Tim Cech (Computergrafische Systeme) , Martin Reiter (Computergrafische Systeme) , Willy Scheibel (Computergrafische Systeme)

General Information

  • Weekly Hours: 4
  • Credits: 6
  • Graded: yes
  • Enrolment Deadline: 01.10.2022 - 31.10.2022
  • Examination time §9 (4) BAMA-O: 17.11.2022
  • Teaching Form: Seminar / Project
  • Enrolment Type: Compulsory Elective Module
  • Course Language: German
  • Maximum number of participants: 12

Programs, Module Groups & Modules

IT-Systems Engineering MA
  • HCGT: Human Computer Interaction & Computer Graphics Technology
    • HPI-HCGT-K Konzepte und Methoden
  • HCGT: Human Computer Interaction & Computer Graphics Technology
    • HPI-HCGT-T Techniken und Werkzeuge
  • HCGT: Human Computer Interaction & Computer Graphics Technology
    • HPI-HCGT-S Spezialisierung
  • ISAE: Internet, Security & Algorithm Engineering
    • HPI-ISAE-T Techniken und Werkzeuge
  • ISAE: Internet, Security & Algorithm Engineering
    • HPI-ISAE-S Spezialisierung
Data Engineering MA

Description

Das Seminar befasst sich mit einführenden Themen im Bereich Explainable AI (XAI). AI als "Black Box" führt u.a. zu entscheidenden Akzeptanz- und Nachweisproblemen in der Praxis. Ansätze, die es ermöglichen, Ergebnisse von AI nachzuvollziehen, sind daher wesentlich für die langfristige effektive Nutzung von AI. Visual Analytics bietet hier ein generelles Repertoire an Methoden, Konzepten und Techniken, um das zu erreichen.  

Im Seminar soll jeweils ein Softwareprototyp erstellt werden, welcher exemplarisch die Nutzung der
zugrundeliegenden Visual-Analytics-Techniken für AI anhand von Beispieldatensätzen (MNIST, Caltech-UCSD Birds, 20 newsgroups etc.) untersucht. Weiterhin soll ein vertieftes Verständnis der Techniken geschaffen werden, insbesondere durch die Bereitstellung eines leicht erweiterbaren Prototypens. Optional können die Teilnehmenden Weiterentwicklungen der Technik verproben oder begründete Kritik formulieren.

Requirements

Es bestehen keine formalen Voraussetzungen.

Hilfreich sind bestehende Kenntnisse im Bereich der Artificial Intelligence und Machine Learning.

Literature

Speith, Timo. "A Review of Taxonomies of Explainable Artificial Intelligence (XAI) Methods." 2022 ACM Conference on Fairness, Accountability, and Transparency. 2022.

Alicioglu, Gulsum, and Bo Sun. "A survey of visual analytics for Explainable Artificial Intelligence methods." Computers & Graphics 102 (2022): 502-520.

Rudin, Cynthia. "Stop explaining black box machine learning models for high stakes decisions and use interpretable models instead." Nature Machine Intelligence 1.5 (2019): 206-215.

Weitere Literatur wird in Absprache mit den Teilnehmenden bereitgestellt.

Learning

Projektarbeit; Wöchentliche Treffen mit den Betreuern; Erstellen und Halten von Vorträgen; Ausarbeitung eines Artikels im fachwissenschaftlichen Stil

Zur Koordination und Kommunikation wird ein Moodle Kurs betrieben. Es wird von allen Teilnehmenden erwartet dort eingeschrieben zu sein.

Examination

Die Studierenden entwickeln über das Semester jeweils einen Softwareprototypen, welcher eine oder
mehrere Techniken der XAI untersucht. 
Hierzu werden zunächst bestehende Techniken und Arbeiten gesichtet. Darauf aufbauend wird in Absprache mit dem Betreuer ein Plan zur Projektdurchführung erstellt und in einem Konzeptvortrag (10 min. Vortrag und 5 min. Diskussion) vorgestellt.
Die Programmier- und Lernergebnisse sollen in einem Abschlussvortrag (20 min. und 10 min. Diskussion) zusammengefasst präsentiert werden.
Hierbei soll Bezug auf die im Konzeptvortrag erklärten Ziele genommen werden.
Weiterhin ist eine schriftliche Ausarbeitung (6 Seiten double column) im Stile eines Fachartikels zu erstellen.
Die Endnote setzt sich aus folgenden Teilnoten zusammen:
    - Implementierung, Dokumentation und Abgabe des Softwareprototypen (50%)
    - Abgabe einer schriftlichen Ausarbeitung (20%)
    - Ausarbeitung und Halten eines Abschlussvortrages (20%)
    - Ausarbeitung und Halten eines Konzeptvortrags (10%)
Die Leistungserfassung beginnt mit Abgabe des Konzeptvortrags am 17.11.2022.

Dates

Das Seminar startet im ersten Block am Donnerstag, den 20.10. ab 09:15 Uhr im Raum A-1.1. An diesem Termin werden die Themen vorgestellt. Auf Grund der hohen Nachfrage wird eine zweite inhaltsgleiche Einführung mit Themenvorstellung am 27.10. ab 09:15 Uhr im Raum A-1.1 stattfinden.

Themenwünsche werden bis zum 28.10. mit den jeweiligen Betreuern verfeinert als Themenwunsch eingereicht. Die Themenwahl wird dann bis zum Dienstag, den 01.11. bestätigt, womit dann die Bearbeitung beginnt.

 

Das Seminar findet nicht regelmäßig statt. Termine wie zu den Vorträgen werden mit den Studierenden abgestimmt.

Zurück