Erklärbare Künstliche Intelligenz: Methoden, Perspektiven, Risiken (Sommersemester 2023)

Dozent: Dr. Rico Richter (Computergrafische Systeme) , Tim Cech (Computergrafische Systeme) , Ole Wegen

Allgemeine Information

• Semesterwochenstunden: 4
• ECTS: 6
• Benotet: Ja
• Einschreibefrist: 01.04.2023 - 07.05.2023
• Lehrform: Seminar
• Belegungsart: Wahlpflichtmodul
• Lehrsprache: Deutsch
• Maximale Teilnehmerzahl: 18

Studiengänge, Modulgruppen & Module

Beschreibung

Das Seminar befasst sich mit einführenden Themen im Bereich Explainable AI (XAI). Künstliche Intelligenz (KI) als "Black Box" führt u.a. zu entscheidenden Akzeptanz- und Nachweisproblemen in der Praxis, bspw. beim Einsatz im medizinischen Bereich, bei Personalentscheidungen oder bei der Entscheidung über Bewährung. Ansätze, die es ermöglichen, Ergebnisse von KI nachzuvollziehen, sind daher wesentlich für die langfristige effektive Nutzung von KI.

Im Seminar sollen grundlegende Texte für den Themenbereich XAI mit den Teilnehmern gelesen werden. Hierzu wird in jeder Sitzung der Fokus auf einem wissenschaftlichen Text liegen, welcher in den Themenbereich der XAI eingeordnet wird. Es soll dabei insbesondere wissenschaftliche Methoden eingeübt werden, also wie ein wissenschaftlicher Text gelesen werden kann, wie dieser in der eigenen Recherche einen Stellenwert bekommt und wie mit Referenzen und Kritik umgegangen werden kann. Die Studierenden sollen dabei eine möglichst vielfältige Sicht auf den Themenbereich XAI gewinnen und lernen Konfliktpotential zwischen verschiedenen Texten zu identifizieren und einzuschätzen.

Das Seminar behandelt vier aufeinander aufbauende Themenblöcke. Zunächst wird das Thema motiviert sowie eine allgemeine Einführung in Recherche- und Forschungsmethoden, sowie eine Taxonomie diskutiert (Sitzung 1-4). Danach wird der Fokus auf dem Erklären von KI-Systemen liegen (Sitzung 5-8). Folgend wird der Fokus vom Erklären auf Fairnessanforderungen gewechselt (Sitzung 9-11), ehe das Seminar mit Überlegungen zur Forschungsethik und Methodenkritik beendet wird (Sitzung 12-15).

Voraussetzungen

Es bestehen keine formalen Voraussetzungen. Es wird jedoch ein Interesse am wissenschaftlichen sowie interdisziplinären Arbeiten erwartet.

Literatur

Es wird zu jeder Sitzung ein Text zu lesen sein, um sich an der Seminardiskussion zu beteiligen. Die Texte werden über das Moodle bereitgestellt.

Exemplarisch werden folgende Texte gelesen:

Timo Speith. ”A Review of Taxonomies of Explainable Artificial Intelligence (XAI) Methods“. In: Proceedings of the 2022 ACM Conference on Fairness, Accountability, and Transparency. FAccT ’22. Association for Computing Machinery, 2022, S. 2239–2250. doi: 10.1145/3531146.3534639

Ayanna Howard und Jason Borenstein. ”The Ugly Truth About Ourselves and Our Robot Creations: The Problem of Bias and Social Inequity“. In: Science and Engineering Ethics 24.5 (2018), S. 1521–1536. doi: 10.1007/s11948-017-9975-2

danah boyd und Kate Crawford. ”Critical Questions for Big Data“. In: Information, Communication & Society 15.5 (2012), S. 662–679. doi: 10.1080/1369118X.2012.678878

Lern- und Lehrformen

Die ersten drei bis vier Sitzungen werden durch das Teaching-Team gehalten und geben eine methodische Einführung in das Thema und das wissenschaftliche Arbeiten. Die folgenden Termine werden mit einem Studierendenvortrag über einen wissenschaftlichen Text eröffnet, anschließend werden Fragen aus dem Auditorium vom Studierenden beantwortet. Danach wird die Diskussion geöffnet und der Text wird in einem Seminargespräch bearbeitet.

Leistungserfassung

Die Endnote setzt sich aus folgenden Teilleistungen zusammen:

• Ausarbeitung und Halten eines Vortrages zu einem wissenschaftlichen Text inkl. Diskussion (30%)
• Eine den Inhalt des Texts reflektierende Demonstration (30%)
• Hausarbeit (6-10 Seiten Springer Nature's template, 40%)

Die Hausarbeit ist bis zum Ende des Semesters abzugeben. Die Hausarbeit ist eine eigenständige, selbstverfasste Arbeit. 

Termine

Die Sitzung findet immer am Montag 13:30 Uhr in H-E.51/52 statt. Die Seminarorganisation findet im Moodle statt. Der erste Termin findet am 17. April statt. Die Themen sind bis zum 30. April über Moodle zu wählen.

Zurück