KI-Strategie & Einführung
Für ein Landesamt für Denkmalpflege haben wir eine KI-Assistenz gebaut, die riesige Antragsarchive ordnet und vorprüft – ohne Cloud-LLM, ohne Datenabfluss. Der Projektbericht.
LudwigOne ist eine KI-gestützte Assistenz, die wir im Auftrag eines Landesamtes für Denkmalpflege entwickelt haben, um Anträge auf steuerliche Förderung nach § 7i EStG formal und inhaltlich vorzuprüfen. § 7i EStG ermöglicht erhöhte Absetzungen für Baumaßnahmen an Baudenkmälern – vorausgesetzt, die zuständige Denkmalbehörde bescheinigt die Maßnahme. Die Antragsarchive dafür sind oft über 500 Megabyte groß, enthalten mehr als hundert Fotos in unterschiedlichen Formaten und umfangreiche PDFs ohne einheitliche Struktur. LudwigOne nimmt diese heterogenen Archive entgegen, ordnet sie nach einem nachvollziehbaren Kategorienschema, benennt Dateien konsistent, zerlegt umfangreiche PDFs in fachlich sinnvolle Dokumentenkategorien und erzeugt einen formalisierten Prüfbericht mit Audit-Trail. Technisch läuft das System vollständig on-premise, mit transparenten Small-Language- und Vision-Modellen europäischer Hersteller statt mit Cloud-LLMs wie GPT-5 oder Gemini. Der Entwicklungsstand wurde am 6. Oktober 2025 im Rahmen des ICOMOS-Workshops „Künstliche Intelligenz und Denkmalpflege" vorgestellt, der Ziel-Rollout ist für März 2026 vorgesehen.
Bis 2039 gehen in Deutschland rund 13,4 Millionen Erwerbstätige in den Ruhestand – ohne dass jüngere Altersgruppen diese Lücke zahlenmäßig auffangen können. Im öffentlichen Dienst bedeutet das rund 1,6 Millionen offene Stellen, das entspricht etwa 12 Prozent. Gleichzeitig legen die vorhandenen Nachwuchskräfte Wert auf moderne IT-Ausstattung und digitale Workflows – doch der eGovernment Monitor 2024 zeigt, dass die öffentliche Verwaltung genau hier ein Problem hat.
Dazu kommt eine ernüchternde Zahl aus der KI-Einführungsforschung: 95 Prozent aller KI-Prozessintegrationen bieten keinen messbaren Mehrwert, und notwendiger Datenschutz erschwert Innovation zusätzlich. In dieser Gemengelage sollte LudwigOne einen konkreten, kosteneffizienten Ausweg zeigen – und wurde deshalb von Anfang an eng mit den Mitarbeiter:innen des Landesamtes konzipiert, statt am grünen Tisch entworfen zu werden.
LudwigOne ist ein Verbund aus drei Applikationen: zwei Webapplikationen – eine Nutzeroberfläche und eine Adminoberfläche – sowie einer API, die beide bedient. Nutzeroberfläche und Adminpanel sind in React/Next.js umgesetzt, die API basiert auf Flask. Die Webapplikationen laufen auf gängiger, breit verfügbarer Serverhardware. Die API hingegen setzt auf lokale KI-Hardware – einen Server mit erweiterten Grafikkartenressourcen –, um für bestimmte Aufgaben generative KI zu nutzen.
Der erste Schritt ist unspektakulär und trotzdem der wirksamste: Ordnung schaffen. LudwigOne nimmt große, heterogene Dateiarchive entgegen, überführt sie in eine eindeutige, reproduzierbare Ordnung über ein inhaltlich begründetes Kategorienschema und versieht alle Dateien mit konsistenter, nachvollziehbarer Benennung. Das Ergebnis steht als sortiertes Archiv zum direkten Download bereit. Sehr umfangreiche PDFs werden in fachlich sinnvolle Dokumentenkategorien zerlegt, sodass statt unsortierter Sammelkonvolute eine klar strukturierte, prüffähige Aktenbasis entsteht. KI-Systeme kommen dabei nur punktuell zum Einsatz – genau dort, wo aus unstrukturierten Daten strukturierte Daten abgeleitet werden müssen.
Auf Ebene einzelner Unterlagen erzeugt LudwigOne fokussierte Prüfaspekte, die sich an der jeweiligen Dokumentart orientieren. Bei Rechnungen werden zum Beispiel jene Angaben hervorgehoben, die für die Nachvollziehbarkeit der Maßnahmezuordnung und der zeitlichen Verortung wesentlich sind. Auf Gesamtebene des Vorgangs macht das System fehlende, unvollständige oder redundante Unterlagen kenntlich. Die Einzelergebnisse verdichten sich zu einem formalisierten Gesamtbericht mit nachvollziehbarem Prüfprotokoll, wobei formale und inhaltliche Prüfprozesse unabhängig voneinander laufen.
Die teils enormen Datenmengen verarbeiten wir mittels Chunking Stück für Stück mit kleinen Sprachmodellen – nach dem Grundsatz der Kleinschrittigkeit, um Nachvollziehbarkeit und Ressourceneffizienz zu gewährleisten. Damit hat LudwigOne Modellcharakter und setzt bewusst einen Gegentrend zum Verarbeitungshunger großer Lösungen wie ChatGPT oder Gemini. Wie dieses Prinzip technisch funktioniert, erklärt der Beitrag zu Small Language Models für Behörden.
Im Livesystem arbeiten spezialisierte, schlanke Modelle mit klarer Aufgabenverteilung: ein kompaktes Sprachmodell für Textextraktion und einfache Prüfungen, ein Vision-Modell für Bildbeschreibung sowie ein Logik-Modell für die Zusammenführung in Berichtsform. Die Orchestrierung erfolgt containerisiert mit Docker. Das Design ist konsequent auf on-premise-Betrieb ausgerichtet und vermeidet problematische Datenflüsse in Public-Cloud-Umgebungen. Für Entwicklungs- und Testszenarien kann optional die kosteneffiziente API von Mistral genutzt werden.
Es wurde darauf geachtet, keinerlei proprietäre, lizenzpflichtige Technologien einzusetzen – alle Komponenten entsprechen der Apache-2.0- beziehungsweise MIT-Lizenz. Für die Verfeinerung der Prüflogik können weitere fachliche Datenbanken als strikt kontrollierte, ausschließlich lesende Schnittstellen angebunden werden; die Logik-Modelle, konkret Mistrals Magistral, ziehen über Function Calling situativ Zusatzinformationen hinzu.
Die Ergebnisse fasst LudwigOne in einem Bericht zusammen, der alle Einzelschritte protokolliert und einen revisionsfreundlichen Audit-Trail bildet. Dieser Bericht wird automatisiert per E-Mail an ein definiertes Funktionspostfach übermittelt und enthält einen Link zum sortierten Dateiarchiv. Parallel stehen die extrahierten Stammdaten in einem standardisierten XML für die technische Weiterverarbeitung bereit. Beide Wege sind medienbrucharm, integrationsfreundlich und für heterogene IT-Landschaften geeignet – ein Kriterium, das in gewachsenen Behörden-IT-Landschaften keine Selbstverständlichkeit ist.
Bei der Entwicklung neuer Applikationen tritt oft ein Henne-Ei-Problem beim Datenschutz auf: Applikationen müssen mit relevanten Testdaten entwickelt werden, die aber oft hochsensibel sind. Wir haben das über anonymisierte Echtdaten und synthetische Daten ohne echten Bezug gelöst. Für LudwigOne selbst fiel die konsequente Entscheidung gegen proprietäre Cloud-LLMs – Google Gemini 2.5, OpenAI GPT-5, Anthropic Claude Sonnet 4.5. Stattdessen fußt das Design auf transparenten, kleinen, aufgabenspezifischen Modellen europäischer Hersteller wie Mistral aus Frankreich. Die funktionale Zerlegung der Arbeitsschritte und das detaillierte Prüfprotokoll schaffen einen prüffähigen Audit-Trail, der rechtskonformes Verwaltungshandeln unterstützt. Mehr zur Logik hinter dieser Entscheidung – und wann ein kleines Modell überhaupt reicht – im Pillar-Beitrag KI in der Verwaltung einführen.
LudwigOne setzt unmittelbar an der Schnittstelle der Eingangsbearbeitung an, übernimmt Sichtung und Vorsortierung großer Konvolute, überführt Dokumente in eine belastbare Struktur und stellt dokumentenspezifische Hinweise bereit. So können Sachbearbeiter:innen ihre Aufmerksamkeit zielgerichtet in den jeweiligen Antrag investieren. Vorhandene Prozesse werden lediglich ergänzt, nicht neu strukturiert – das führt zu höherer Akzeptanz, weil die KI nur Routinearbeiten übernimmt und unterstützend wirkt, statt Zuständigkeiten zu verschieben.
Das Projekt startete am 1. Januar 2025 mit einer Laufzeit von zwölf Monaten, der Ziel-Rollout ist für März 2026 vorgesehen. Die Grundprinzipien – strukturierte Intake-Strecke, SLM-basierte Vorprüfung, protokollierte Befunde und XML-Schnittstellen – lassen sich mit vertretbarem Aufwand auf angrenzende Verwaltungsprozesse übertragen. Behördenspezifische Prüflogiken und Formatanforderungen pflegen Fachanwender direkt in der Adminoberfläche, ohne dass jedes Mal neu entwickelt werden muss.
Was macht LudwigOne konkret? LudwigOne nimmt große, unsortierte Antragsarchive entgegen, ordnet und benennt die Dateien konsistent, zerlegt umfangreiche PDFs in sinnvolle Dokumentenkategorien und erzeugt einen formalisierten Prüfbericht mit Audit-Trail für Anträge nach § 7i EStG.
Warum verzichtet LudwigOne bewusst auf Cloud-LLMs wie GPT-5 oder Gemini? Wegen Datenschutz, KI-Souveränität und Kosteneffizienz. Sensible Antragsdaten sollen die eigene Infrastruktur nicht verlassen. Kompakte, transparente Modelle europäischer Hersteller wie Mistral erfüllen die konkreten Aufgaben – Textextraktion, Bildbeschreibung, Berichtssynthese – ausreichend gut.
Ersetzt LudwigOne die fachliche Prüfung durch Sachbearbeiter:innen? Nein. LudwigOne übernimmt Sichtung, Sortierung und Vorprüfung, nicht die fachliche Entscheidung. Vorhandene Zuständigkeiten bleiben unverändert – die KI ergänzt bestehende Prozesse, statt sie zu ersetzen.
Ist das Prinzip von LudwigOne auf andere Verwaltungsbereiche übertragbar? Ja. Die Grundprinzipien – strukturierte Intake-Strecke, SLM-basierte Vorprüfung, protokollierte Befunde, XML-Schnittstellen – lassen sich mit vertretbarem Aufwand auf angrenzende Verwaltungsprozesse mit ähnlicher Dokumentenlage übertragen.
Wann geht LudwigOne in den produktiven Betrieb? Der Ziel-Rollout ist für März 2026 vorgesehen, bei einer Projektlaufzeit von zwölf Monaten seit dem 1. Januar 2025.
"Ich schicke regelmäßig kostenlose Updates zum Thema KI, Sicherheit und Anwendungen."
Wählen Sie direkt einen freien Slot in meinem Kalender.
Schreiben Sie mir Ihr Anliegen — ich melde mich zeitnah.
