Barrierefreiheit Einstellungen
Es ist uns wichtig, dass du ein reibungsloses Navigations-Erlebnis auf unserer Webseite hast. Um das zu versichern, kannst du hier für deine Ansicht der Webseite globale Einstellungen setzen.
Animationen
Wir nutzen einige Animationen auf dieser Webseite. Sollten dich diese stören, kannst du die Animationen jederzeit hier abschalten.
Wir haben uns für diese Ausgabe des Newsletters kein leichtes Thema vorgenommen. Wir wollen Moral und Ethik im Umgang mit KI beleuchten – oder zumindest einen kleinen Beitrag zur Diskussion leisten.
Unter Moral verstehen wir hier Handlungen im Alltag, die von einer bestimmten Gemeinschaft als richtig beurteilt werden. Je nach Gemeinschaft unterscheiden sich die Vorstellungen von Moral jedoch. Ethik liefert den wissenschaftlichen Unterbau, der moralische Praktiken untersucht.
Bezogen auf künstliche Intelligenz beschäftigt sich Ethik mit der Rolle von KI-Systemen sowie mit ethischen Normen für Menschen, die künstliche Intelligenz u. a. entwerfen, produzieren und nutzen. Sofern eine Maschine „Verhalten“ zeigt, ist auch dieses Verhalten Teil der Ethik – ebenso wie die Konsequenzen, die ein solches „Verhalten“ nach sich zieht.
In Diskussionen beobachten wir, dass es häufig um konkrete Handlungen geht, zum Beispiel im Umgang mit KI. Genau genommen sprechen wir also eher von Moral, sprich von konkreten Praktiken, als von Ethik als Wissenschaftsdisziplin. „Moral“ klingt allerdings schnell nach erhobenem Zeigefinger.
Was wir mit unseren Teilnehmenden in Studienkursen ebenso wie mit Professionals immer wieder praktizieren, ist, Annahmen kritisch zu überprüfen – etwa über die Bedürfnisse von Nutzer:innen. Für diese Überprüfung gestalten wir einen konkreten Erfahrungsraum. Das heißt zum Beispiel: In einem Vorhaben zur Verbesserung des Mobilitätserlebnisses in Berlin steigen wir beladen mit Gepäck zwischen öffentlichen Verkehrsmitteln um, um uns zu 100 % in die Schuhe der potenziellen Nutzer:innen zu begeben und ihren Alltag im Nahverkehr mit Haut und Haar selbst zu erleben.
Diese Herangehensweise erweitert unsere Perspektiven und damit unsere Urteilsfähigkeit, etwa bei Entscheidungen für oder gegen bestimmte Weichenstellungen in einem Innovationsprojekt.
Vor diesem Hintergrund stellten wir uns in der Redaktion die Frage: In welchen Situationen der KI-Nutzung beginnt die Nadel in unserem inneren Wertekompass auszuschlagen? Dabei ist „uns“ als eine Gruppe vieler verschiedener Individuen in Gesprächen zu verstehen, die alle unterschiedlich sind und jeweils einen unterschiedlich ausgerichteten inneren Kompass mitbringen.
Daran schloss sich die Folgefrage an: Wie nutzen wir den Ausschlag der Kompassnadeln, um unser Urteilsvermögen und kritisches Denken zu schärfen – und damit KI-Anwendungen zu entwickeln, die die Nutzer:innen in den Mittelpunkt stellen und zu einem besseren Leben zukünftiger Generationen beitragen? Das heißt auch: Wie können wir das unglaublich große Potenzial von KI im Sinne der Menschen produktiv nutzen?
In Diskussionen haben wir beobachtet, dass Menschen in folgenden Erfahrungsbereichen mit KI verstärkt den Bedarf nach Austausch und Diskussion haben, um ihr Urteilsvermögen zu schärfen:
Die erste Irritation beginnt bereits bei der Eingabe. Wer mit KI arbeitet, füttert Systeme mit Fragen, Gedanken, Recherchematerial, Rohdaten – manchmal auch mit sensiblen Informationen. Doch was passiert mit diesen Daten? Werden sie gespeichert? Gibt es ein Datenmonopol bei einigen wenigen Unternehmen?
Es entsteht ein Gefühl von Ungleichgewicht. Wir geben etwas preis, ohne genau zu wissen, wer Zugriff darauf erhält, wie lange es gespeichert wird und wofür es künftig genutzt werden könnte.
Selbst wenn KI-Anwendungen stärker geschützt innerhalb einer Organisation liegen, bleibt die Frage, welche Daten wir überhaupt eingeben und ob wir uns ihrer Sensibilität bewusst sind.
Die zweite Irritation entsteht dort, wo künstliche Intelligenz Ergebnisse liefert, die beeindruckend wirken – aber nicht zuverlässig sind. Eine Anweisung scheint klar formuliert, der Prozess läuft über mehrere Schleifen, doch plötzlich vergisst das System zentrale Vorgaben. Details verschwinden, Begriffe werden vermischt, Quellen oder Aussagen werden falsch zusammengeführt.
Das Dilemma beschreiben Menschen so: Nehmen wir enorme Effizienzgewinne in Kauf, wenn zugleich ein Teil der Analyse fehlerhaft, verkürzt oder verzerrt sein könnte? Wird Schnelligkeit zum neuen Qualitätsmaßstab? Und wer merkt es noch, wenn etwas Entscheidendes fehlt?
Dieses Dilemma mündet in ein erhöhtes subjektives Bedürfnis, KI-Ergebnisse fortlaufend kontrollieren zu müssen. Gute KI-Nutzung bedeutet also nicht, Kontrolle abzugeben. Sie bedeutet, Kontrolle anders zu organisieren: bewusster, systematischer und mit einem klaren Verständnis dafür, wo menschliche Urteilsfähigkeit unverzichtbar bleibt (human oversight).
Eine dritte Irritation betrifft die Frage, wessen Perspektiven KI sichtbar macht und wessen Perspektiven untergehen.
KI-Systeme arbeiten mit Mustern, Wahrscheinlichkeiten und statistischen Häufigkeiten. Das ist technisch nachvollziehbar, führt aber zu Verzerrungen: Minderheiten sind unterrepräsentiert und der Mainstream ist überpräsent.
Eine KI kann Interviewdaten synthetisieren, legt aber darüber immer auch ein Raster statistischer Wahrscheinlichkeiten. Die Frage ist deshalb: Wie verhindern wir, dass KI aus Vielfalt ein plausibel klingendes Mittelmaß macht und zukunftsweisende Zwischentöne verloren gehen?
KI kann helfen, blinde Flecken sichtbar zu machen. Aber sie kann nicht garantieren, dass wir richtig urteilen. Auch hier bleibt kritisches Denken die zentrale menschliche Aufgabe.
Was bedeutet diese Spurensuche nach unserem kritischen Denken und unserer Urteilsfähigkeit für Gesellschaften, die Neues in die Welt bringen wollen – Neues, das das Leben auf diesem Planeten besser, gerechter und zukunftsfähiger macht?
Unser Fazit aus der Beschäftigung mit dem Thema: Die entscheidende Frage lautet nicht, ob KI moralisch ist. Die entscheidende Frage lautet, ob wir unser kritisches Denken und unsere Urteilsfähigkeit behalten und weiter ausbauen, während wir mit KI arbeiten.
In der Newsletterausgabe der HPI d-school vom Juni 2026 spricht Marc Stussak, Senior Program Lead Corporate Innovation, darüber, wie er Teams aus Unternehmen in Innovationsworkshops und agilen Projekten dabei unterstützt, ihre Urteilsfähigkeit zu schärfen und KI gezielt als reflektierende Gegenperspektive zu nutzen.
Außerdem stellen wir ein Customized-Workshop-Angebot zum verantwortungsvollen Einsatz von KI im Unternehmen vor.
Studierende können in unserem Programm „Wayfinder“ ihre Reflexions- und Urteilsfähigkeit, zum Beispiel in Bezug auf ihre eigenen Zukunftswünsche, weiter ausbauen. Im Podcast „Neuland“ erfährst du, was die Initiator:innen zum Kurskonzept inspiriert hat.
Anmerkung
Für diesen Beitrag hat uns die KI in der Redaktion als Lektorin dabei unterstützt, im Text einen einheitlichen Stil beizubehalten, zu kürzen, Grammatik und Rechtschreibung zu korrigieren.
