Drei Wege führen in Behörden zu KI-Projekten. Zwei davon scheitern meistens. Welcher Weg zu Ihrer Verwaltung passt – und warum „von oben" fast immer die schwächste Wahl ist.

Drei Wege führen in Behörden zu funktionierenden KI-Projekten. Der häufigste ist zugleich der schwächste: die Anweisung von oben. Weg eins, evidenzbasiert, wählt den ersten Anwendungsfall aus echten Prozesszahlen – Bearbeitungsdauer, Fallzahl, wiederkehrende Engpässe. Das funktioniert, wenn belastbares Prozesscontrolling vorhanden ist. Ist es das nicht, bleibt Weg zwei: einfach anfangen, mit einem sauber eingehegten Pilotprojekt, das von Anfang an als Pilot benannt ist – und in dem Scheitern als Lernergebnis vereinbart ist, nicht als Versagen. Weg drei, die Entscheidung von der Hausspitze nach unten, wirkt auf den ersten Blick am bequemsten. In der Praxis ist er der mit der schlechtesten Trefferquote: lange Anlaufzeiten durch Abstimmungsrunden, Personalrat und IT-Sicherheit, dazu ein hohes Risiko, dass das falsche Thema getroffen wird – und dass die Belegschaft die nächste Initiative gleich mit Skepsis quittiert. Meine Empfehlung nach vielen Behördenprojekten: Haben Sie verlässliches Prozesscontrolling, starten Sie evidenzbasiert. Wenn nicht, starten Sie einfach los – aber als klar deklarierten Piloten mit Schutzraum. Von oben bleibt Themen vorbehalten, bei denen Ihnen ohnehin niemand eine Wahl lässt.
Diese Frage höre ich in praktisch jeder Seminarpause, wenn ich in Behörden unterwegs bin: „Herr Müller, wo fangen wir an?" Schauen wir uns die drei Wege im Detail an – inklusive der Leitplanken, die unabhängig vom gewählten Weg gelten: Datenschutz und EU AI Act.
Sie ziehen die Daten aus Ihrem Prozesscontrolling. Wie lange dauert ein Antrag? Wie oft kommt er vor? Wo hängt es regelmäßig? Auf dieser Grundlage fällt die Entscheidung, welcher Prozess als Nächstes mit KI angereichert wird.
Vorteil: Sie raten nicht mehr. Nachteil: Sie raten nicht mehr. Das klingt paradox, ist aber ernst gemeint. Wenn Zahlen entscheiden, gibt es kein Wunschkonzert mehr – weder für die Amtsleitung noch für die Sachbearbeitung. Use-Cases, die aus der Belegschaft kommen, landen am Ende oft nicht oben auf der Liste. Das kostet Akzeptanz, wenn Sie die Logik nicht offen erklären.
Wann das geht: wenn Sie ein verlässliches Prozesscontrolling haben. Ganz ehrlich: In den meisten Verwaltungen, mit denen ich arbeite, ist das nicht der Fall.
Sie sammeln Ideen in der Belegschaft, oft direkt aus Schulungen heraus. „Was wäre eigentlich cool, wenn KI das übernehmen könnte?" Diese Use-Cases sind keine evidenzgetriebenen Top-Prioritäten. Aber es sind Use-Cases, die jemand wirklich anpacken will.
Vorteil: Sie fangen an. Das ist mehr wert, als es klingt. Wer KI integrieren will, braucht praktisches Wissen. Das holen Sie nicht über eine weitere Beratung und auch nicht über ein weiteres Seminar. Sie holen es, indem Sie es kaputt machen, reparieren, besser machen. Stichwort: am lebenden Objekt arbeiten.
Nachteil: Es wird mit hoher Wahrscheinlichkeit scheitern. In einer Verwaltungskultur, die nicht darauf trainiert ist, schnell zu scheitern, kann ein einziges sichtbares Scheitern reichen, damit die nächste Idee gar nicht mehr versucht wird. „Sehen Sie, die Technologie ist eben doch noch nicht so weit." Mit jedem Mal, dem das passiert, sinkt die Bereitschaft, die nächste Idee überhaupt freizugeben.
Wann das geht: wenn Sie Schutzraum schaffen. Wenn das Pilotprojekt von Anfang an explizit als Pilot benannt ist – und Scheitern als Lernoutcome mitvereinbart ist, nicht als Versagen.
Die Hausspitze entscheidet: „Wir nehmen jetzt diesen Prozess." Punkt. Führungskräfte werden angewiesen, das in ihre Bereiche zu tragen.
Vorteil: Sie müssen niemanden mehr überzeugen. Nachteil: Es ist möglicherweise gar nicht das richtige Thema. Und wenn es das nicht ist, haben Sie dieselbe Akzeptanzkrise wie bei Weg 2 – nur ohne den Lerneffekt aus einem ehrlichen Versuch. Die Mitarbeitenden sagen: „Wir hätten eigentlich da, da und da den Bedarf gesehen." Der nächste Versuch startet dann mit Skepsis, oder gar nicht mehr.
Dazu kommt: Von-oben-Entscheidungen haben in Verwaltungen typischerweise eine sehr lange Anlaufzeit. Diskussionsrunden, Abstimmungen, Genehmigungen, Personalrat, IT-Sicherheit. Schnell scheitern geht so nicht – und genau das wäre nötig, um zu lernen.
Wann das geht: bei regulatorisch erzwungenen Themen, wo es keine Wahl gibt. Sonst eher nicht.
Der eigentliche Schaden bei Weg 3 zeigt sich selten beim ersten Projekt. Er zeigt sich beim zweiten und dritten. Eine Belegschaft, die einmal erlebt hat, dass eine von oben verordnete KI-Initiative am eigentlichen Bedarf vorbeiging, reagiert auf die nächste Ankündigung nicht mehr mit Neugier, sondern mit Abwehr. Genau das killt Innovationstempo langfristig stärker als ein einzelner gescheiterter Pilot.
Mein Ranking – und ja, ich habe eines: Wenn Sie über belastbares Prozesscontrolling verfügen, starten Sie evidenzbasiert. Immer. Wenn nicht, starten Sie einfach los, aber von Anfang an als Pilot deklariert und mit Schutzraum. Von oben ist meiner Erfahrung nach die schlechteste Wahl, um zu starten. Lange Anlaufzeit, schlechte Trefferquote, hohes Risiko, die Akzeptanz für die nächsten zwei Initiativen gleich mit zu verbrennen.
Verwaltungen lernen KI nicht durch perfekte Planung. Sie lernen sie, indem sie anfangen – kontrolliert, eingerahmt, aber wirklich.
Vier Fragen, die die Entscheidung meistens klären:
Egal, welchen Weg Sie wählen: Datenschutz und der EU AI Act laufen mit, nicht hinterher. Die DSGVO gilt für jede Verarbeitung personenbezogener Bürgerdaten – unabhängig davon, ob KI im Hintergrund arbeitet oder nicht.
Der EU AI Act stuft bestimmte Einsatzfelder der öffentlichen Verwaltung als Hochrisiko-Systeme ein. Im Anhang III zählen dazu unter anderem der Zugang zu grundlegenden öffentlichen Leistungen, der Einsatz in Migration, Grenzkontrolle und Asylverfahren sowie in der Rechtspflege. Für diese Fälle gelten verschärfte Pflichten: Risikobewertung, Dokumentation, menschliche Aufsicht. Für alle anderen Einsatzfelder gilt seit Februar 2025 ohnehin die KI-Kompetenz-Pflicht aus Art. 4 EU AI Act: Mitarbeitende, die mit KI-Systemen arbeiten, müssen dafür ausreichend geschult sein. Mehr dazu im Beitrag zur KI-Schulungspflicht und AI Literacy.
Praktisch heißt das: Bauen Sie Datenschutzfolgenabschätzung und Schulungsnachweis von Anfang an in jeden der drei Wege ein – nicht als nachträgliches Compliance-Pflaster, das Sie kurz vor dem Rollout noch hochziehen müssen.
Viele Verwaltungen lösen den Zielkonflikt zwischen Datenschutz und Innovationsdruck über den Betriebsort: statt Cloud-LLMs von US-Anbietern kommen kompakte, spezialisierte Modelle zum Einsatz, die auf eigener Hardware laufen. Das senkt nicht nur das Datenschutzrisiko, es senkt auch die Betriebskosten – und macht KI-Souveränität zu einem Betriebsparameter statt zu einer Grundsatzdebatte. Wie das technisch funktioniert und wann ein kleines Modell tatsächlich reicht, erklärt der Beitrag zu Small Language Models für Behörden. Wie das in einem echten Projekt aussieht, zeigt die Fallstudie zu LudwigOne in der Denkmalpflege – ein Pilot, der genau nach Weg 2 gestartet ist.
Welcher der drei Wege ist für den Einstieg am besten geeignet? Wenn belastbares Prozesscontrolling vorhanden ist: der evidenzbasierte Weg. Fehlt das, ist ein klar deklarierter Pilot mit Schutzraum die bessere Wahl als eine Entscheidung von oben.
Warum scheitert die Anweisung von oben in der Verwaltung besonders oft? Weil sie meistens das falsche Thema trifft, eine lange Anlaufzeit durch Abstimmungsrunden hat und im Scheitern keinen Lerneffekt bietet – die Belegschaft verliert Vertrauen, ohne selbst etwas gelernt zu haben.
Was bedeutet „Schutzraum" bei einem KI-Pilotprojekt konkret? Der Pilot wird von Anfang an offiziell als Pilot kommuniziert, mit definiertem Umfang und Zeitrahmen. Scheitern wird vorab als mögliches, akzeptiertes Ergebnis benannt – nicht im Nachhinein als Versagen einer Person zugeschrieben.
Muss ich bei jedem KI-Projekt in der Verwaltung eine Datenschutzfolgenabschätzung durchführen? Nicht automatisch bei jedem Projekt, aber die Prüfpflicht sollten Sie grundsätzlich mitdenken – insbesondere, sobald personenbezogene Bürgerdaten verarbeitet werden oder das Einsatzfeld unter Anhang III des EU AI Act fällt.
Reicht Cloud-KI für den Einstieg, oder brauche ich sofort eine On-Premise-Lösung? Für einen ersten, eng begrenzten Piloten kann eine geprüfte Cloud-Lösung ausreichen. Sobald sensible Bürgerdaten regelmäßig verarbeitet werden, lohnt sich der Blick auf On-Premise-Modelle – dazu mehr im verlinkten Beitrag zu Small Language Models.

"Ich schicke regelmäßig kostenlose Updates zum Thema KI, Sicherheit und Anwendungen."
Wählen Sie direkt einen freien Slot in meinem Kalender.
Schreiben Sie mir Ihr Anliegen — ich melde mich zeitnah.