Nach dem Potenzial kommt das Risiko
Warum KI-Agenten eine neue Kategorie von Organisationsrisiko schaffen
Wir reden gerade viel über das Potenzial von KI-Agenten. Zu Recht.
In einzelnen Abteilungen entstehen heute Systeme, die das Wissen langjähriger Mitarbeitender bündeln, strukturieren und zugänglich machen. Neue Kolleginnen und Kollegen werden mit diesen Agenten eingearbeitet. Junge Teams arbeiten täglich damit. Prozesse werden schneller, Entscheidungen fundierter, Onboarding effizienter.
Das ist echte Wertschöpfung. Das ist das Versprechen.
Aber ich möchte heute eine Frage stellen, die in diesen Gesprächen selten auftaucht.
Was passiert, wenn die Erfahrenen gehen?
Stellen wir uns folgendes Szenario vor:
Ein langjähriger Mitarbeitender – sagen wir, 15 Jahre im Unternehmen, tief verwurzelt in Prozessen, Kunden, Ausnahmen und ungeschriebenem Regelwerk – hat in den letzten Monaten aktiv dabei geholfen, einen KI-Agenten aufzubauen. Er hat ihn mit Wissen trainiert, mit Kontext versorgt, mit Erfahrung gefüllt.
Dann verlässt er das Unternehmen.
Das Wissen lebt weiter – im Agenten. Das klingt zunächst gut. Aber hier beginnt die eigentliche Frage:
Wer versteht noch, warum der Agent so antwortet, wie er antwortet?
Wer kann einschätzen, ob eine Empfehlung des Agenten heute noch korrekt ist – oder ob sich die Rahmenbedingungen verändert haben, ohne dass jemand den Agenten entsprechend weiterentwickelt hat?
Wer merkt, wenn das Wissen im System veraltet, lückenhaft oder in einem neuen Kontext schlicht falsch ist?
Das Wissensmonopol verschiebt sich – still und leise
In traditionellen Organisationen kennen wir dieses Risiko. Wir nennen es Wissensverlust durch Fluktuation. Wir haben gelernt, damit umzugehen:
- Offboarding-Prozesse
- Vertretungsregelungen
- Dokumentationspflichten
- Übergabegespräche
Für Menschen haben wir diesen organisatorischen Rahmen – zumindest im Idealfall – im Blick.
Für KI-Agenten haben wir ihn noch nicht.
Und genau das ist das strukturelle Risiko, das ich meine. Nicht die KI selbst ist das Problem. Das Problem ist, dass wir gerade dabei sind, Wissensmonopole zu verschieben – von erfahrenen Mitarbeitenden hin zu Systemen – ohne denselben organisatorischen Schutzrahmen zu schaffen, den wir für menschliche Wissensträger längst entwickelt haben.
Drei Fragen, die wir uns jetzt stellen sollten
1. Wer ist Eigentümer des Agenten – wirklich?
Nicht technisch, sondern inhaltlich. Wer trägt Verantwortung dafür, dass das Wissen im System aktuell, vollständig und korrekt ist? Wenn diese Frage keine klare Antwort hat, ist das ein Risiko.
2. Was passiert beim Offboarding eines KI-Agenten?
Klingt seltsam – aber es ist ernst gemeint. Was passiert, wenn ein Agent abgeschaltet, ersetzt oder migriert wird? Welches Wissen geht dabei verloren? Welche Prozesse hängen daran?
3. Wie bauen wir menschliches Verständnis parallel auf – nicht nur Nutzung?
Wenn junge Mitarbeitende ausschließlich mit dem Agenten arbeiten, ohne je zu verstehen warum er so antwortet – wer entwickelt dann das kritische Urteilsvermögen, das nötig ist, um das System zu hinterfragen?
Das ist kein Argument gegen KI-Agenten
Das möchte ich ausdrücklich betonen.
KI-Agenten in Organisationen einzusetzen ist richtig. Das Potenzial ist real. Der Nutzen ist messbar. Wer hier zögert, verschenkt einen echten Wettbewerbsvorteil.
Aber Potenzial und Risiko sind keine Gegensätze – sie entstehen gemeinsam. Und wer nur das eine sieht, ist nicht gut vorbereitet.
Die Frage ist nicht: Sollen wir KI-Agenten einsetzen?
Die Frage ist: Welche organisatorischen Strukturen brauchen wir, damit wir das nachhaltig und souverän tun?
Was ich mir wünsche
Mehr Gespräche auf Führungsebene, die nicht nur fragen „Welchen Agenten bauen wir als nächstes?“, sondern auch:
- Wie sichern wir das Wissen im System langfristig?
- Wie stellen wir sicher, dass Menschen das System verstehen – nicht nur bedienen?
- Wie schaffen wir organisatorische Resilienz rund um KI-Systeme, so wie wir sie rund um Menschen geschaffen haben?
Die Technologie ist schneller als unsere Governance. Das war schon immer so. Aber es ist unsere Aufgabe als Führungskräfte und Organisationsentwickler, diesen Abstand so klein wie möglich zu halten.
Lassen Sie uns gerne unverbindlich dazu austauschen:
