Menschen im Loop behalten: Entwicklung von Designprinzipien an der HPI d-school

Anstatt mit der Technologie zu beginnen, konzentrierte sich der Workshop auf Designprinzipien als praktisches Werkzeug. Designprinzipien fungieren als gemeinsamer „Leitstern”: Sie fassen zusammen, wofür ein Produkt stehen sollte, und helfen Teams, schwierige Entscheidungen zu treffen, wenn viele Interessengruppen und Meinungen beteiligt sind. Die Teilnehmenden wurden ermutigt, über klassische Prinzipien wie „Einfachheit“ hinauszugehen und KI-spezifische Prinzipien wie Transparenzmechanismen, Opt-out- und Override-Optionen, Erklärbarkeit auf Abruf, menschliche Feedback-Schleifen und ethische Design-Heuristiken zu untersuchen. Diese Prinzipien machen abstrakte Debatten über KI-Governance greifbar und in konkreten Produktentscheidungen umsetzbar.

In vier domänenorientierten Teams setzten die Teilnehmenden ihre Prinzipien in Mini-Anwendungsfälle um:

• Transformative Bildung: Ein Tutor-System, bei dem Lernende und Eltern bei der Festlegung von Lernzielen „im Loop“ bleiben. Prinzipien wie transparente ethische Grundsätze und Unannehmlichkeiten stellen sicher, dass KI ihren Wertkompass zeigt, Lernende herausfordert anstatt sie nur zu unterhalten, und aktiv die Zusammenarbeit in der realen Welt fördert.
• Sicherheitskritische Alltagsentscheidungen: Eine App zur Identifizierung giftiger Pilze verdeutlichte die Notwendigkeit von Intuition und starken Sicherheitsstandards. Das System sollte Optionen erklären, Konfidenzniveaus anzeigen und im Zweifelsfall eine klare Empfehlung aussprechen: „Nicht essen.“
• Automatisierung von Arbeit und Staat: Bei Entscheidungen wie Wohngeld betonten die Teilnehmenden das Vertrauen in den Prozess der iterativen Verbesserung: Systeme sollten Risiken aufzeigen, Feedback sammeln und eine Schaltfläche „Das bezweifle ich“ anbieten, die eine Überprüfung durch Menschen auslöst, anstatt die Menschen mit intransparenten Ergebnissen allein zu lassen.
• KI im Gesundheitswesen: In einem „KI-Arzt“-Szenario konzentrierten sich die Prinzipien rund um Vertrauen und Transparenz darauf, Datenquellen, Wahrscheinlichkeiten und Argumentationsschritte sichtbar zu machen, damit Patient:innen, Ärzt:innen und Versicherungsunternehmen die Empfehlungen verstehen und hinterfragen können.

Über alle Gruppen hinweg war eine Botschaft klar: Verantwortungsvolle KI braucht integrierte Möglichkeiten für Menschen, Entscheidungen zu verstehen, zu hinterfragen und neu zu gestalten – vor, während und nach dem automatisierten Prozess.

Auf der Grundlage der Workshop-Ergebnisse hat die HPI d-school ein kompaktes Mini-Handbuch mit dem Titel „Design for Trust & Human-in-the-Loop” entwickelt, das in Kürze auf dieser Website zum Download bereitstehen wird. Es enthält wichtige Grundsätze, Vorlagen und Übungen für Teams, die die menschliche Handlungsfähigkeit in den Mittelpunkt ihrer KI-Projekte stellen möchten. Wenn du benachrichtigt werden willst, sobald das Handbuch online verfügbar ist, abonniere bitte unseren Newsletter.

Vielen Dank an unsere Teilnehmenden ebenso wie an unsere Moderator:innen, Referent:innen und Facilitators: Flavia Bleuel, Monika Frech, Dr. Julia Kleeberger, Brian Tepfenhart, Mads Pankow, Christian Bleuel, Maria-José Juarez, Lukasz Lata und Robin Mehra.