Auf der AI@HPI Conference 2025 lud die HPI d-school die Teilnehmenden zu einem hochgradig interaktiven Workshop mit dem Titel „Design for Trust & Human-in-the-Loop: Creating Responsible AI Systems Together” ein. Da KI-Systeme zunehmend in Bildung, öffentliche Verwaltung und Alltagsprodukte integriert werden, wird die Frage, wie Menschen ihre Handlungsfähigkeit und Entscheidungsgewalt behalten können, immer wichtiger. Der Workshop brachte Expert:innen und Praktiker:innen zusammen, um zu erörtern, was „Human in the Loop” in der Praxis wirklich bedeutet und wie Design das Vertrauen in KI stärken oder auch zerstören kann.
Artikel
Menschen im Loop behalten: Entwicklung von Designprinzipien an der HPI d-school
Einführung
Design für Vertrauen in einer Welt, in der KI allgegenwärtig ist
Warum Designprinzipien für KI wichtig sind
Anstatt mit der Technologie zu beginnen, konzentrierte sich der Workshop auf Designprinzipien als praktisches Werkzeug. Designprinzipien fungieren als gemeinsamer „Leitstern”: Sie fassen zusammen, wofür ein Produkt stehen sollte, und helfen Teams, schwierige Entscheidungen zu treffen, wenn viele Interessengruppen und Meinungen beteiligt sind. Die Teilnehmenden wurden ermutigt, über klassische Prinzipien wie „Einfachheit“ hinauszugehen und KI-spezifische Prinzipien wie Transparenzmechanismen, Opt-out- und Override-Optionen, Erklärbarkeit auf Abruf, menschliche Feedback-Schleifen und ethische Design-Heuristiken zu untersuchen. Diese Prinzipien machen abstrakte Debatten über KI-Governance greifbar und in konkreten Produktentscheidungen umsetzbar.
Mini-Anwendungsfälle: Human-in-the-Loop zum Leben erwecken
In vier domänenorientierten Teams setzten die Teilnehmenden ihre Prinzipien in Mini-Anwendungsfälle um:
- Transformative Bildung: Ein Tutor-System, bei dem Lernende und Eltern bei der Festlegung von Lernzielen „im Loop“ bleiben. Prinzipien wie transparente ethische Grundsätze und Unannehmlichkeiten stellen sicher, dass KI ihren Wertkompass zeigt, Lernende herausfordert anstatt sie nur zu unterhalten, und aktiv die Zusammenarbeit in der realen Welt fördert.
- Sicherheitskritische Alltagsentscheidungen: Eine App zur Identifizierung giftiger Pilze verdeutlichte die Notwendigkeit von Intuition und starken Sicherheitsstandards. Das System sollte Optionen erklären, Konfidenzniveaus anzeigen und im Zweifelsfall eine klare Empfehlung aussprechen: „Nicht essen.“
- Automatisierung von Arbeit und Staat: Bei Entscheidungen wie Wohngeld betonten die Teilnehmenden das Vertrauen in den Prozess der iterativen Verbesserung: Systeme sollten Risiken aufzeigen, Feedback sammeln und eine Schaltfläche „Das bezweifle ich“ anbieten, die eine Überprüfung durch Menschen auslöst, anstatt die Menschen mit intransparenten Ergebnissen allein zu lassen.
- KI im Gesundheitswesen: In einem „KI-Arzt“-Szenario konzentrierten sich die Prinzipien rund um Vertrauen und Transparenz darauf, Datenquellen, Wahrscheinlichkeiten und Argumentationsschritte sichtbar zu machen, damit Patient:innen, Ärzt:innen und Versicherungsunternehmen die Empfehlungen verstehen und hinterfragen können.
Über alle Gruppen hinweg war eine Botschaft klar: Verantwortungsvolle KI braucht integrierte Möglichkeiten für Menschen, Entscheidungen zu verstehen, zu hinterfragen und neu zu gestalten – vor, während und nach dem automatisierten Prozess.
Was kommt als Nächstes: ein Mini-Playbook für Teams
Auf der Grundlage der Workshop-Ergebnisse hat die HPI d-school ein kompaktes Mini-Handbuch mit dem Titel „Design for Trust & Human-in-the-Loop” entwickelt, das in Kürze auf dieser Website zum Download bereitstehen wird. Es enthält wichtige Grundsätze, Vorlagen und Übungen für Teams, die die menschliche Handlungsfähigkeit in den Mittelpunkt ihrer KI-Projekte stellen möchten. Wenn du benachrichtigt werden willst, sobald das Handbuch online verfügbar ist, abonniere bitte unseren Newsletter.
Vielen Dank an unsere Teilnehmenden ebenso wie an unsere Moderator:innen, Referent:innen und Facilitators: Flavia Bleuel, Monika Frech, Dr. Julia Kleeberger, Brian Tepfenhart, Mads Pankow, Christian Bleuel, Maria-José Juarez, Lukasz Lata und Robin Mehra.
