KI in der Erhebung
Lernziele
Nach Abschluss dieses Moduls kannst du:
- die drei zentralen Chancen von KI in der Erhebung benennen: Strukturierung, Tempo, Vollständigkeitsprüfung.
- die zwei wichtigsten Grenzen erkennen: Halluzination und fehlender Kontext.
- die Pflicht zur menschlichen Validierung jeder KI-Aussage und das Prinzip Human-in-the-Loop in eigenen Worten beschreiben.
- die Anforderung des EU AI Act Art. 4 (KI-Kompetenz) und die Datenschutzregeln beim KI-Einsatz in einer Erhebung benennen.
Warum das zählt
KI-Werkzeuge halten Einzug in die Verwaltung, auch in die Prozesserhebung. Wer unvorbereitet an sie herantritt, übersieht den Nutzen oder unterschätzt die Risiken. Dieses Modul gibt einen kritischen ersten Blick: was die Werkzeuge heute leisten, wo sie zuverlässig scheitern, welche Leitplanken gelten. Die konkrete Arbeit mit dem Werkzeug (Prozessmaschine als Copilot) folgt in Stufe 2.6. Hier geht es um das Verständnis davor.
Inhalt
Eine Prozesserhebung produziert viele unstrukturierte Informationen: Mitschriften, Zitate, offene Punkte. Genau hier kann KI heute sinnvoll eingesetzt werden, immer als Werkzeug, immer unter menschlicher Verantwortung.
Chancen
Drei Einsatzfelder sind heute reif. Erstens die Strukturierung: die KI fasst Mitschriften in klar formulierte Prozessschritte und schlägt eine Reihenfolge vor. Zweitens das Tempo: Routineformulierungen und Zusammenfassungen entstehen in Sekunden, die erhebende Person gewinnt Zeit für das Gespräch. Drittens die Vollständigkeitsprüfung: legt man der KI die fünf Themenfelder (Anlass, Kontext, Ablauf, Beteiligte, Engpässe) als Checkliste vor, kann sie Lücken markieren und Nachfragen vorschlagen.
Grenzen
Ebenso wichtig sind die Grenzen. KI halluziniert, das heißt, sie erzeugt sachlich falsche Aussagen mit überzeugender Formulierung. Sie kennt den konkreten Vorgang, die handelnden Personen und die Aktenlage nicht, also fehlt ihr der Kontext, den eine Erhebung voraussetzt. Sie kann eine Aussage einer Sachbearbeiterin nicht gegen den Akteninhalt prüfen. Wer KI-Aussagen ungeprüft übernimmt, baut fehlerhafte Modelle.
Validierungspflicht und Human-in-the-Loop
Daraus folgt eine einfache Regel. Jede KI-Aussage, die in ein Erhebungsergebnis einfließt, muss von einer sachkundigen Person verifiziert werden. Die KI schlägt vor, die erhebende Person entscheidet. Dieses Prinzip heißt Human-in-the-Loop und gilt ohne Ausnahme, auch wenn die KI noch so plausibel klingt.
EU AI Act Art. 4
Seit dem 2. Februar 2025 verlangt der AI Act in Artikel 4, dass Anbieter und Betreiber von KI-Systemen für eine ausreichende KI-Kompetenz der beteiligten Personen sorgen. Wer KI in der Erhebung einsetzt, muss Funktionsweise, Grenzen und Risiken kennen. Die Ausbildung ist ein Baustein, daneben gehören betriebliche Leitlinien und ein festgelegter Umgang mit sensiblen Daten.
Datenschutz beim KI-Einsatz
Ergänzend zu den DSGVO-Prinzipien aus Modul 1.5 gelten beim KI-Einsatz zusätzliche Regeln. Personenbezogene Daten und sensible Vorgangsinhalte gehören nicht ungeprüft in ein KI-Werkzeug. Vor dem Einsatz stehen die Freigabe der IT-Stelle und die Vereinbarung zur Auftragsverarbeitung. In der Erhebung heißt das: Mitschriften vor der Verarbeitung pseudonymisieren, Klarnamen und Aktenzeichen durch Platzhalter ersetzen, und das Ergebnis nur nach Zustimmung der auskunftgebenden Stelle freigeben.
Häufige Verwechslungen
Eine plausible KI-Antwort ist kein Beweis. Überzeugende Formulierung und Richtigkeit sind zwei verschiedene Dinge. Jede Aussage bleibt zu prüfen, gerade wenn sie gut klingt.
Human-in-the-Loop ist keine Empfehlung, sondern Pflicht. Die KI schlägt vor, die sachkundige Person entscheidet. Ohne diese Prüfung entsteht kein belastbares Modell.
Merksatz
Die KI schlägt vor, die sachkundige Person entscheidet. Human-in-the-Loop ist keine Option, sondern Pflicht.
Verwaltungsbeispiel
Praxisfall: Eheschließung mit Ausländerbeteiligung im Standesamt
Im Standesamt soll der Vorgang der Eheschließung mit Ausländerbeteiligung erhoben werden. Nach dem Gespräch liegen rund drei Seiten handschriftlicher Notizen vor. Die erhebende Person gibt diese Notizen in das freigegebene KI-Werkzeug ein, nachdem Klarnamen durch Rollenbezeichnungen ersetzt wurden (Antragstellerin, Standesbeamtin, Urkundsperson). Die KI strukturiert die Notizen in eine Schritt-für-Schritt-Liste und meldet: „Beteiligte und Engpässe sind knapp abgedeckt, bitte nachfragen.“ Die erhebende Person prüft jeden Schritt gegen die Originalnotizen, ergänzt zwei fehlende Punkte und verifiziert die Formulierungen mit der auskunftgebenden Sachbearbeiterin. Erst danach entsteht die erste BPMN-2.0-Skizze. Ohne diese Prüfung wäre die fehlerhafte Behauptung übernommen worden, die Urkundsperson sei in jedem Fall am Tag der Antragstellung verfügbar. Die KI hatte den Wunsch mit der Regel verwechselt.
Chance oder Grenze von KI?
Entscheide für jede Aussage, ob sie eine Chance oder eine Grenze von KI in der Erhebung beschreibt. Du bekommst sofort eine Rückmeldung mit kurzer Begründung.
Einen eigenen KI-Einsatz prüfen lassen
Beschreibe in zwei bis vier Sätzen, wofür und wie du KI in einer eigenen Erhebung einsetzen würdest. Der Mentor spiegelt dir, ob Validierung (Human-in-the-Loop), Pseudonymisierung und Freigabe mitgedacht sind und ob du eine Grenze der KI berücksichtigt hast. Er bewertet nicht.
Bitte keine echten Namen, Adressen oder Aktenzeichen eingeben. Der Check läuft über den civitasAI-Server und ist erst nach dem Deployment auf civitasai.de verfügbar, nicht in der lokalen Vorschau.
Selbstcheck
Drei Fragen zum Mitdenken
- Welche der drei Chancen (Strukturierung, Tempo, Vollständigkeitsprüfung) wäre in deinem Arbeitsbereich heute der größte Gewinn, und welche Risiken siehst du dort?
- Wie würdest du Mitschriften aus einem Gespräch vorbereiten, bevor du sie an ein KI-Werkzeug übergibst (Pseudonymisierung, Platzhalter, Freigabe)?
- An welcher Stelle in deiner Behörde würde die Pflicht zur Validierung greifen, und wer wäre verantwortlich?
💬 Diskussion & Erfahrungsaustausch Klicken zum Aufklappen
Wie laeuft das in deiner Behoerde? Teile Erfahrungen und Fragen, anonym oder mit E-Mail. Kommentare liegen auf eigenen Servern (DSGVO-konform). Bitte keine personenbezogenen Daten Dritter eingeben.