Du beschäftigst dich schon seit einiger Zeit mit dem Einsatz von KI. Jetzt hast du ein neues Whitepaper veröffentlicht, das die bewusste Verteilung der Entscheidungsmacht zwischen Menschen und KI in den Fokus stellt – auf einem Kontinuum von „Mensch ganz ohne KI“ bis „KI entscheidet alleine“. Man könnte auch sagen: Dein Blick richtet sich weniger auf Technologie und mehr auf die Analyse unterschiedlicher Situationen. Welche Erfahrungen haben dich zu dieser Veränderung geführt?
Samuel Tschepe: Es sind vor allem drei Dinge, die zusammengekommen sind.
Erstens: Elternzeit. Zweieinhalb Monate, in denen ich zur Abwechslung mehr beobachtet als selbst angewendet habe. Und was ich vor allem online vielerorts gesehen habe, war eine fast schon hypnotische Konzentration auf das nächste Tool, die nächste Technologie. Kaum jemand hat gefragt, warum eigentlich. Oder wann. Oder ob überhaupt.
Zweitens: Ich schreibe gerade einen Roman, gemeinsam mit KI. Das klingt nach einem netten Experiment, ist aber eigentlich meine persönlichste Auseinandersetzung mit dem Thema. Weil ich dort immer wieder merke, wie stark die Tendenz ist, zu viel abzugeben. Das Nachdenken abzuschalten. Die KI weiterschreiben zu lassen, weil es ja funktioniert. Die Frage, die mich dabei wirklich beschäftigt: Wie behalte ich die Agency (Handlungsmacht / das Heft in der Hand), dass es am Ende wirklich mein Roman wird – und nicht ein sehr gut klingender Roman, bei dem ich nur die Prompts geliefert habe?
Drittens: Workshops. Immer wieder habe ich beobachtet, wie Teams KI nutzen wie einen Warenautomat. Münze rein, Riegel raus. Einmal prompten, Ergebnis nehmen, weiterziehen. Kaum jemand nutzt KI als echten Sparringpartner, also mit Reibung, mit Widerspruch, mit mehreren Runden. Dabei liegt genau da das eigentliche Potenzial.
Je nach Situation ist die Art und Weise, wie der Mensch in der „Verantwortungsschleife“ gehalten wird, neu zu bestimmen. Du schreibst, dass der „Human only“-Modus dabei hilft, Kompetenzen aufzubauen. Wie das? Und was wird im „AI only“-Modus aufgebaut und welche „Verantwortungsschleife“ bleibt dem Menschen dennoch in diesem Modus?
Samuel Tschepe: Der „Human Only"-Modus klingt erstmal nach Technikskepsis. Ist er nicht. Er ist eine bewusste Entscheidung: Ich bearbeite diese Aufgabe ohne KI, weil das Durcharbeiten selbst der Punkt ist.
Kompetenz entsteht durch direkte Erfahrung. Wer nie einen eigenen Analyseansatz entwickelt hat, kann nicht wirklich beurteilen, ob der KI-Output gut ist oder nur gut klingt. Wer nie schwierige Feedbackgespräche selbst geführt hat, verliert das Gespür dafür, was daran menschlich und was daran nur überzeugend wirkt. Es geht mir hierbei nicht um Romantisierung von Anstrengung, vielmehr ist das ein sehr nüchterner Hinweis darauf, dass Urteilsvermögen durch eigene Erfahrung entsteht, nicht durch Delegation.
Was im „Delegated"-Modus beim Menschen bleibt – und das ist mehr als es klingt – ist Meta-Souveränität. Also die Verantwortung, das System zu designen. Zu entscheiden, welche Fehler tolerierbar sind. Zu überwachen, ob das System noch das tut, was ich will. Und: zu erkennen, wann Eingreifen notwendig ist.
Das klingt weniger heroisch als "ich treffe alle Entscheidungen". Es ist aber eigentlich die anspruchsvollere Aufgabe. Der Autopilot fliegt das Flugzeug, aber die Piloten sitzen im Cockpit, schauen auf die Instrumente und bleiben verantwortlich für alles, was passiert. Das ist kein passiver Job.
Was bedeutet „Meta-Souveränität" genauer? Und was heißt das für Bildung und Weiterbildung?
Samuel Tschepe: Operative Souveränität heißt: „Ich treffe diese konkrete Entscheidung“. Meta-Souveränität heißt: „Ich entscheide, wer oder was diese Entscheidung trifft – und unter welchen Bedingungen das gilt.“
Ein konkretes Praxisbeispiel: Ein Unternehmen setzt einen Onboarding-Agenten ein, der neuen Mitarbeitenden automatisch Informationen liefert, Fragen beantwortet und erste Aufgaben und Meetings koordiniert. Dabei trifft der KI-Agent viele Entscheidungen selbst, etwa wann ein Kennenlernmeeting stattfindet, nach Abgleich der Kalender aller Beteiligten. Aber jemand hat vorher festgelegt, welche Informationen der Agent bekommt, welche Fragen er beantworten darf, wo er die Entscheidung nochmal an einen Menschen abgeben muss, welche Fehler tolerierbar sind usw. Diese Person – oder dieses Team – übt Meta-Souveränität aus. Und das ist keine leichte Aufgabe. Wenn der Agent neue Mitarbeitende mit falschen Informationen einarbeitet, trägt der Agent nicht die Verantwortung.
Für Bildung hat das unbequeme Konsequenzen. Einige davon werden bereits diskutiert, viele noch zu wenig bzw. zu sehr im Klein-Klein.
In der akademischen Ausbildung geht es nicht nur darum, KI-Tools zu integrieren oder Prüfungsformate zu überdenken. Es geht darum, was eigentlich der Kern von Bildung ist. Wenn KI Texte schreibt, Code produziert und Analysen erstellt – dann macht es wenig Sinn, Bildung weiterhin primär an Output zu messen. Der eigentliche Wert verschiebt sich: Urteilsvermögen, die Fähigkeit zu erkennen, wann etwas stimmt oder eben nicht, Problemformulierung statt nur Problemlösung (die richtigen Fragen stellen!), ethisches Abwägen in unklaren Situationen. Das sind keine "Soft Skills". Das sind die Fähigkeiten, auf die es ankommt, wenn die Ausführung günstig und allgemein verfügbar wird.
In der beruflichen Weiterbildung sehe ich Ähnliches. Vieles dreht sich gerade vor allem um KI-Tools und die technologische Komponente. Das ist nicht falsch. Aber wenn dabei das Fundament – Domänenwissen, kritisches Denken, Urteilskraft in der eigenen Profession – nicht mitgedacht wird, werden Menschen ausgebildet, die Outputs produzieren können, aber nicht wirklich evaluieren. Und wer nicht evaluieren kann, verliert früher oder später die Meta-Souveränität. Dann entscheidet das System, nicht mehr der Mensch, auch wenn formal noch jemand auf "Bestätigen" klickt.
Aktuell gibst du eine Reihe von Webinaren zu den Themen deines neuen Whitepapers. Welche Fragen beschäftigen die Teilnehmenden besonders? Welche Situationen schildern sie, in denen sie sich mit der Verteilung von Verantwortung zwischen Menschen und KI beschäftigen?
Samuel Tschepe: Das Interessanteste ist eigentlich eine Beobachtung über die Sorgen selbst: Viele machen sich Gedanken über De-Skilling, also den Verlust von Kompetenz durch das Abgeben von Denken und Aufgaben an KI. Aber sie machen sich diese Sorgen selten um sich selbst. Fast immer geht es um "die nächste Generation", um Junior-Mitarbeitende, um Studierende. Das finde ich bemerkenswert. Als ob der Kompetenzverlust immer woanders passiert – nie gerade hier, nie gerade jetzt.
Ein zweites Thema, das ich so nicht erwartet hatte: Purpose. Wenn jemand wirklich gerne programmiert oder schreibt und die KI es nun schneller und oft besser kann, was macht das mit dieser Person? Wenn ich nur noch orchestriere, aber nicht mehr selbst mache, verliere ich dann einen Teil dessen, was mir an meiner Arbeit wichtig war? Das ist keine technische Frage. Das ist eine sehr menschliche.
Dann gibt es die Orientierungsfrage, und damit einhergehend auch eine Erschöpfung: Wie bleibe ich überhaupt up-to-date bei diesem Tempo? Und hier ist das Framework tatsächlich der Ansatz einer Antwort. Wer LinkedIn verfolgt oder die einschlägigen Newsletter liest, könnte meinen, man müsse dringend auf den Agenten-Hype aufspringen – als ob maximale Automatisierung das ultimative Ziel wäre. Das Framework versucht aufzuzeigen: Das ist es nicht. Delegated ist nur ein Modus, mit echten Vorteilen, aber auch echten Kosten. Wer das versteht, muss nicht jedem Hype hinterherlaufen. Trotzdem, und das möchte ich anmerken: Mich erschöpft das Tempo teilweise auch.
Last but not least: Dein Whitepaper soll es Teams ermöglichen, eine gemeinsame Sprache zu finden, wenn sie über den Einsatz von KI in ihrer Arbeit sprechen. Hast du erste Rückmeldungen, was Teams oder Einzelpersonen als besonders hilfreich für die gemeinsame Diskussion finden?
Samuel Tschepe: Zweierlei.
Erstens: die Frage, die das Framework immer wieder stellt – worum geht es hier eigentlich gerade? Was ist das Ziel? Viele Individuen und Teams nutzen KI einfach, weil sie sie haben. Das Framework lädt dazu ein, innezuhalten und sich zu fragen: Welcher Modus macht hier eigentlich Sinn? Was gewinne ich, was gebe ich auf? Um dann eine bewusste Entscheidung zu treffen. Tägliche KI-Nutzung ist völlig in Ordnung – aber KI-Nutzung sollte kein Reflex sein.
Zweitens, und das finde ich gerade auch besonders spannend: der Modus in der Mitte des Kontinuums. Partnered. Echte Zusammenarbeit zwischen Mensch und KI, bei der weder Mensch noch KI alleine auf das Ergebnis kämen. Der Mensch bringt Kontext, Urteil und Erfahrung mit. KI bringt Breite, Muster, unermüdliche Iteration ein. Das ist kein einmaliges Prompten, das ist ein Gespräch, das tiefer geht, das Reibung erzeugt, das mehrere Runden braucht. Da steckt unglaublich viel Potenzial drin, das die meisten noch kaum ausschöpfen.
Und genau das ist der Bereich, in dem ich selbst gerade am meisten ausprobiere. Ich schaue, was möglich ist, was sinnvoll ist und was wirklich etwas verändert.
Danke für das Interview!
