alt: Dark Mirror: AI and Society neu:Planung und Konstruktion von AI-basierten interaktiven Systemen mit einer "dunklen Seite der KI“ (Wintersemester 2021/2022)

Dozent: Prof. Dr. Jürgen Döllner (Computergrafische Systeme) , Daniel Limberger (Computergrafische Systeme) , Willy Scheibel (Computergrafische Systeme)

Allgemeine Information

• Semesterwochenstunden: 4
• ECTS: 6
• Benotet: Ja
• Einschreibefrist: 01.10.2021 - 22.10.2021
• Lehrform: Seminar / Projekt
• Belegungsart: Wahlpflichtmodul
• Lehrsprache: Deutsch
• Maximale Teilnehmerzahl: 16

Studiengänge, Modulgruppen & Module

Beschreibung

Technologie, Software, und in jüngerer Vergangenheit Machine Learning nehmen verstärkt Einfluss auf unsere Gesellschaft und das tägliche Leben. Insbesondere werden Bereiche wie Freizeit, Konsum, Gesundheitswesen, Verwaltung, Wirtschaft und Finanzen technisiert und durch Software gestützt. Diese Technisierung bringt eine Abhängigkeit gegenüber Software und Algorithmen mit sich und knüpft unsere Erfahrung und Akzeptanz – sowohl positiv als auch negativ – an die Qualität der Software und der Algorithmen und damit auch an die Parteien, die an ihrer Erstellung und Bereitstellung beteiligt sind. Schon heute ist diese Abhängigkeit sichtbar und bemerkbar und somit auch die positiven und auch negativen Erfahrungen gegenwärtig.

In dem Seminar <Planung und Konstruktion von AI-basierten interaktiven Systemen mit einer "dunklen Seite der KI“> werden wir uns auf Softwaresysteme und Anwendungen des Machine Learning fokussieren, die eine negative Erfahrung bei einem Benutzer erreichen sollen. Wir wollen den Bereich an Software erkunden, der nicht im Sinne seines Nutzers arbeitet, für ihn unerwartet, unbequem, unerwünscht, ausnutzend oder gar gefährlich sein kann. Das Seminar bietet die Möglichkeit sich frühzeitig Bewusstsein für missbräuchlichen Einsatz von Software und Machine Learning auseinanderzusetzen und das Problembewusstsein zu schärfen und Lösungsstrategien für solide Softwaresysteme zu erlangen.

Teilnehmer werden im Rahmen des Seminars einen technischen Prototypen mit einer gesellschaftlich kritischen Komponente konzipieren, entwickeln und präsentieren.

Beispiele von Projekten, welche in vorangegangenen Durchgängen von Teilnehmern entwickelt worden sind:

• Selfaware Monopoly: Eine Erweiterung des Brettspiels, bei der die Bank über Handel außerhalb der Spielelemente dem Spieler Vorteile verschafft oder Spieler gegeneinander ausspielt.
• Watch the Watchmen: Ein Spiel bei dem man einen Ladendetektiv spielt und potentielle Ladendiebe fassen muss. Bei Spielende wird man durch eine im Hintergrund trainierte KI mit seinen Vorurteilen konfrontiert.
• VeniClamaviVici: Ein Sprachgesteuertes Spiel, was im Hintergrund ein Sprachprofil des Spielers antrainiert und diesen Später mit KI-erzeugten Sätzen in der Stimme des Spielers konfrontiert.
• A Detective Game: Ein Spiel welches Ziele in der echten Welt definiert und dich so als Werkzeug einspannen kann.
• T.E.T.R.I.S.: Das bekannte Spiel, welches jedoch aus dem Spielerprofil und verknüpften Informationen einen Abgleich mit einem zu benachteiligenden Spielerprofil durchführt und den Schwierigkeitsgrad entsprechend erhöht.
• Demon GO: Ein AR-basiertes Spiel zum fangen von Dämonen mithilfe der Handykamera, welche zufällig Bewegungsmuster und Verweilorte wählen, die ein Ausspähen des Raumes und ein scannen von freiliegenden Dokumenten und Objekten ermöglichen.
• MC SHIVR: Ein VR-Tennisspiel, welches durch subtile Verschiebung des Spielfelds den Spieler aus der Safe Zone herauslockt und Verletzungen enforciert.

Voraussetzungen

Das Seminar richtet sich an Studierende ab dem 5. Fachsemester. Es werden grundlegende Programmierkenntnisse und -techniken vorausgesetzt, wie sie unter anderem in den Lehrveranstaltungen Programmiertechnik I, Programmiertechnik II, Softwarearchitekturen und Softwaretechnik I vermittelt werden.

Spezielle Technologien, Programmiersprachen und Frameworks werden für den technischen Prototypen nicht vorausgesetzt sondern werden projektspezifisch in der Gruppe gewählt. Für die Webseite empfehlen sich einfache CSS und HTML Frameworks, die auch im Rahmen des Seminars erarbeitet werden können.

Literatur

Literatur wird Gruppenspezifisch ausgegeben.

Der folgende Artikel kann vorbereitend als Einführung und Motivation gelesen werden:

• David Lorge Parnas: “Inside Risks The Real Risks of Artificial Intelligence”. Communications of the ACM (Oct., 60:10), 27-31, 2017.

Lern- und Lehrformen

Teilnehmer arbeiten in kleinen Gruppen (2-4 Teilnehmer) arbeitsteilig an einem Thema und werden von einem Betreuer der Fachgruppe angeleitet. Es wird ein technischer Prototyp erarbeitet und in Form von zwei Vorträgen und Demos die Fortschritte und Ergebnisse kommuniziert. Die Projektübergabe umfasst weiterhin eine Projektübersicht in Form einer Webseite und einem Video.

Für den technischen Prototyp sind themenspezifisch verschiedene Softwarekomponenten wie Webseiten, Apps, Anwendungen, Konsolenprogramme oder Services möglich.

Dabei werden regelmäßige Treffen mit dem Betreuer und eine gleichbleibende Bearbeitung über das gesamte Semester empfohlen.

Die Kommunikation und Terminfindung, sowie die Verteilung von Materialien und Literatur erfolgt über das HPI Moodle. Es wird von allen Teilnehmern erwartet dort in den Kurs eingeschrieben zu sein.

Leistungserfassung

Für eine erfolgreiche Bearbeitung des Seminars müssen sowohl ein technischer Prototyp erarbeitet werden als auch die Fortschritte und Ergebnisse in Form von zwei Vorträgen und einer Webseite präsentiert werden.

Die Endnote setzt sich wie folgt zusammen:

• 70% Prototyp und Projektbearbeitung
• 5% Zwischenvortrag (15 Minuten)
• 20% Endvortrag (25 Minuten)
• 5% Projektwebseite und -video

Termine

Termine werden in Präsenz durchgeführt.

Der erste Termin des Seminars zur Einführung und Themenvorstellung findet am 26.10 um 9:15 Uhr im Seminarraum H.E-51/52 statt. Die Gruppenfindung und Themenvergabe soll bis zum 8.11. abgeschlossen sein.

Weitere Termine werden unregelmäßig in diesem Slot wahrgenommen und vorher jeweils über das Moodle angekündigt.

Zurück