Explaining and Visualizing AI (Wintersemester 2023/2024)

Dozent: Prof. Dr. Jürgen Döllner (Computergrafische Systeme) , Tim Cech (Computergrafische Systeme) , Josafat-Mattias Burmeister (Computergrafische Systeme) , Willy Scheibel (Computergrafische Systeme)

Allgemeine Information

• Semesterwochenstunden: 4
• ECTS: 6
• Benotet: Ja
• Einschreibefrist: 01.10.2023 - 31.10.2023
• Lehrform: Seminar / Projekt
• Belegungsart: Wahlpflichtmodul
• Lehrsprache: Deutsch

Studiengänge, Modulgruppen & Module

Beschreibung

Das Seminar befasst sich mit einführenden Themen im Bereich Explainable AI (XAI). AI als "Black Box" führt u.a. zu entscheidenden Akzeptanz- und Nachweisproblemen in der Praxis. Ansätze, die es ermöglichen, Ergebnisse von AI nachzuvollziehen, sind daher wesentlich für die langfristige effektive Nutzung von AI. Visualisierungen und Visual Analytics bieten hier ein generelles Repertoire an Methoden, Konzepten und Techniken, um dieses Ziel zu erreichen. Das Seminar bedient sich insbesondere auch interdisziplinärer Ansätze, die in der aktuellen Forschung diskutiert werden.

Im Seminar soll insbesondere der wissenschaftliche Prozess eingeübt werden. Es soll jeweils ein Softwareprototyp erstellt, welcher exemplarisch die Nutzung der zugrundeliegenden Visualisierungstechniken bzw. die interdisziplinären Methoden anhand von Beispieldatensätzen (MNIST, Caltech-UCSD Birds, 20 newsgroups etc.) untersucht. Weiterhin soll ein vertieftes Verständnis der genutzten Techniken geschaffen werden. Optional können die Teilnehmenden Weiterentwicklungen der Technik verproben oder begründete Kritik formulieren. Die Ergebnisse werden in der Form eines wissenschaftlichen Workshops präsentiert. Hierbei wird besonderen Wert auf die verständliche Aufbereitung der Theorie, sowie der Demonstration des Prototypens gelegt.

Voraussetzungen

Es bestehen keine formalen Voraussetzungen.

Hilfreich sind bestehende Kenntnisse im Bereich der Artificial Intelligence und Machine Learning.

Literatur

Speith, Timo. "A Review of Taxonomies of Explainable Artificial Intelligence (XAI) Methods." 2022 ACM Conference on Fairness, Accountability, and Transparency. 2022.

Neff, Gina, et al. "Critique and contribute: A practice-based framework for improving critical data studies and data science." Big data 5.2 (2017): 85-97.

Rudin, Cynthia. "Stop explaining black box machine learning models for high stakes decisions and use interpretable models instead." Nature Machine Intelligence 1.5 (2019): 206-215.

Weitere Literatur wird in Absprache mit den Teilnehmenden bereitgestellt.

Lern- und Lehrformen

Projektarbeit; Wöchentliche Treffen mit den Betreuern; Erstellen und Halten von Vorträgen; Ausarbeitung einer technischen Demonstration und Posters, Literaturrecherche

Zur Koordination und Kommunikation wird ein Moodle Kurs betrieben. Es wird von allen Teilnehmenden erwartet dort eingeschrieben zu sein.

Leistungserfassung

Die Leistungserfassung setzt sich aus folgenden Komponenten zusammen:

Präsentation der Problemstellung (10 min. Präsentation mit 5 min. Diskussion, bestanden/nicht bestanden)

Die Präsentation der Ergebnisse mit Leistungserfassung erfolgt in einem zweitägigen Workshop. Ergänzend dazu geben die Studierenden die im Laufe des Semesters erarbeiteten Quellen in einem kurzen Survey ab. Daraus ergibt sich folgende Zusammensetzung der Note.

• Theoretische Tafelpräsentation (interaktiver 30 min. Vortrag, 30%) (Workshop – Tag 1)
• Hands-On Vorstellung der Projektergebnisse mit Demo (40%) (Workshop – Tag 2)
• Vorstellung eines wissenschaftlichem Posters (10%) (Workshop – Tag 2)
• Kurzes Survey (max. 4 Seiten exkl. Referenzen, 20%) (Bis zum Ende des Semesters)

Termine

Das Seminar startet in der zweiten Woche am Donnerstag, den 26.10. ab 13:30 Uhr mit einer Online-Vorstellung der Themen. Der Zoom-Link wird über Moodle veröffentlicht. Eine inhaltsgleiche zweite Themenvorstellung wird am 02.11. ab 13:30 Uhr im Raum G-3.E.15/16 stattfinden.

Die Themen sind bis zum 06.11. zu wählen. Themenwünsche können mit dem jeweiligen Betreuern verfeinert werden. Die Themenwahl wird dann bis zum Dienstag, den 07.11. bestätigt, womit dann die Bearbeitung beginnt.

Im Rahmen des Seminar wird der im Stundenplan hinterlegte Slot nur unregelmäßig verwendet. Insbesondere sind dort zunächst nur die Themenvorstellungen angedacht.

Zurück