KI-Tools in der Verwaltung
Lernziele
- Die wichtigsten DSGVO-konformen KI-Tools für die Verwaltung nennen können
- Kriterien zur Auswahl und Evaluierung von KI-Werkzeugen anwenden können
- Den Unterschied zwischen On-Premise, Cloud und Hybrid erklären können
- Eine Risikoabschätzung vor der Einführung neuer KI-Tools durchführen können
1. Landschaft der KI-Tools
Die Auswahl an KI-Tools wächst täglich, für die öffentliche Verwaltung sind jedoch nicht alle geeignet. Entscheidend sind Datenschutz, Transparenz, Server-Standort und Vertragsgestaltung. Das Bürgeramt, das in diesem Modul als Beispiel dient, hat genau daran seinen Chatbot für Bürgeranfragen gemessen.
- Textgenerierung: Microsoft Copilot (mit Data Protection), self-hosted LLMs, EU-LLMs (Aleph Alpha, Mistral)
- Datenanalyse: Python + Pandas (on-premise), Tableau mit KI-Features, Power BI
- Bild und Design: Canva (mit Enterprise-Vertrag), Adobe Firefly (kommerzielle Nutzung erlaubt), self-hosted Stable Diffusion
- Sprache und Übersetzung: DeepL Pro (EU-Server), Microsoft Translator, EU-Alternativen
- Transkription: Whisper (Open Source, self-hosted), Microsoft Azure Speech Services
2. Bewertungskriterien: Der 5-Punkte-Check
Vor der Einführung eines neuen KI-Tools prüft das Bürgeramt fünf Dimensionen, bevor es einen Vertrag unterschreibt.
1. Datenschutz & DSGVO
- Server-Standort: EU / Deutschland?
- AVV (Auftragsverarbeitungsvertrag) verfügbar?
- Datenweitergabe an Dritte ausgeschlossen?
- DSFA notwendig? (Ja, bei hochriskanten Anwendungen)
2. Transparenz & Erklärbarkeit
- Wie funktioniert das Modell? (White-Box vs. Black-Box)
- Gibt es Dokumentation und Audit-Möglichkeiten?
- Können Entscheidungen nachvollzogen werden?
3. Sicherheit & Zuverlässigkeit
- ISO-27001-Zertifizierung?
- Verschlüsselung bei Übertragung und Speicherung?
- Verfügbarkeitsgarantie (SLA)?
4. Barrierefreiheit & Inklusion
- WCAG-2.1-Konformität?
- Bedienung ohne Maus möglich?
- Leichte Sprache und Screenreader-Kompatibilität?
5. Kosten & Nachhaltigkeit
- Gesamtbetriebskosten über 3 Jahre (Total Cost of Ownership, TCO)?
- Energieverbrauch und CO₂-Fußabdruck dokumentiert?
- Besteht Vendor Lock-in?
3. On-Premise vs. Cloud vs. Hybrid
Die Entscheidung, wo ein KI-Modell läuft, ist für eine Behörde von großer Tragweite, und jede Variante bringt eigene Vor- und Nachteile mit. Beim Eigenbetrieb (On-Premise) bleibt die Datenverarbeitung vollständig im Haus, dafür braucht es eine hohe Anfangsinvestition und eigenes Fachpersonal. Eine Cloud-Lösung (SaaS) steht schnell bereit und kostet zu Beginn wenig, dafür verarbeitet ein Drittanbieter die Daten, AGB können sich ändern, und die Behörde gerät leicht in einen Vendor Lock-in. Ein Hybridmodell hält sensitive Daten im eigenen Haus und lagert weniger kritische Prozesse in die Cloud aus, das ist aufwendiger zu betreiben, in der Praxis aber oft der gangbarste Weg. Das Bürgeramt hat sich für seinen Chatbot bewusst gegen die Cloud-Variante entschieden, weil die Anfragen der Bürgerinnen und Bürger personenbezogene Daten enthalten.
Empfehlung für die öffentliche Verwaltung
Bei sensitiven Daten, also personenbezogenen oder vertraulichen Angaben, gehört die Verarbeitung auf eigene Server oder in eine gehostete EU-Cloud mit Auftragsverarbeitungsvertrag. Bei allgemeinen Verwaltungstexten wie Beschwerden oder Alltagskorrespondenz reicht eine Cloud-Lösung mit DSGVO-Garantie aus. In beiden Fällen gehört die Entscheidung mit ihrer Begründung in die Akte.
4. Risikoabschätzung vor der Tool-Einführung
Bevor das Bürgeramt seinen Chatbot beschafft, muss es fünf Fragen an den Anbieter stellen und die Antworten schriftlich dokumentieren.
Schnell-Check: Fünf Pflichtfragen an den Anbieter
- Wo werden die Daten verarbeitet und gespeichert, auf EU-Servern oder mit Drittstaatentransfer?
- Stellt der Anbieter einen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO aus? Ohne AVV dürfen keine personenbezogenen Daten eingegeben werden.
- Wie lange werden die Eingaben gespeichert, zum Training, zum Logging oder für den Support?
- Welche Subunternehmer verarbeiten die Daten mit? Dafür braucht es einen Sub-AVV.
- Wie wird das Tool abgeschaltet, und werden die Daten dabei gelöscht?
Merksatz
Kein Anbieter, der diese fünf Fragen nicht schriftlich beantwortet, ist für personenbezogene Daten in der öffentlichen Verwaltung geeignet. Die Antworten gehören in die Vergabeakte.
5. Fall aus dem Amt: Tool-Auswahl im Bürgeramt
Fall aus dem Amt: Chatbot für häufige Anfragen
Das Bürgeramt entscheidet sich gegen eine Cloud-KI mit personenbezogenen Daten und setzt stattdessen ein selbst gehostetes Modell ein, zum Beispiel Mistral, mit vorgefilterten Antworten. Kann eine Frage damit nicht beantwortet werden, geht sie an eine menschliche Sachbearbeitung weiter. 40 % der Anfragen beantwortet der Chatbot automatisch, und keine einzige Anfrage verlässt dabei das Haus.
Die Antwort eines Anbieters auseinandernehmen
Ausgangslage
Ein Anbieter hat auf die fünf Pflichtfragen geantwortet. Auszug aus seiner Mail:
Unsere Server stehen in Frankfurt und Dublin. Einen AVV stellen wir gerne bereit, das Muster finden Sie in unserem Trust Center. Eingaben speichern wir 30 Tage zu Supportzwecken, danach werden sie automatisch gelöscht. Für das Modelltraining nutzen wir Ihre Daten selbstverständlich nicht. Wir arbeiten mit einem führenden US-Hyperscaler als Infrastrukturpartner. Bei Vertragsende exportieren wir Ihre Daten auf Anfrage.
Auftrag
Markieren Sie die drei Stellen, an denen Sie nachfassen, und schreiben Sie zu jeder die Nachfrage aus, die Sie stellen wollen. Entscheiden Sie danach in einem Satz, ob dieses Werkzeug bis zur Klärung personenbezogene Daten sehen darf.
Ihre Eingaben bleiben in diesem Browserfenster. Sie werden nicht gespeichert und nicht übertragen, ein Neuladen der Seite verwirft sie.
Musterlösung anzeigen
Infrastrukturpartner
„Ein führender US-Hyperscaler“ ist kein Name. Zu fragen ist, welches Unternehmen das ist, ob ein Vertrag über die Unterauftragsverarbeitung nach Art. 28 Abs. 4 DSGVO besteht und ob im Supportfall ein Zugriff aus einem Drittland möglich ist. Ein Serverstandort in der EU schließt einen Zugriff von außerhalb nicht aus.
Speicherung
Dreißig Tage Supportspeicherung heißt, dass jede Eingabe dreißig Tage beim Anbieter liegt. Zu fragen ist, wer in dieser Zeit hineinsehen kann, ob sich die Speicherung abschalten lässt und wie der Anbieter mit einer behördlichen Anordnung im Sitzstaat des Infrastrukturpartners umgeht.
Vertragsende
„Auf Anfrage exportieren“ sagt nichts über Format, Frist und Löschung. Zu fragen ist, in welchem Format der Export kommt, innerhalb welcher Frist er erfolgt und wann die Daten beim Anbieter und bei allen Unterauftragnehmern nachweislich gelöscht sind.
Entscheidung
Bis diese drei Punkte schriftlich geklärt sind und der Auftragsverarbeitungsvertrag gezeichnet ist, gehen keine personenbezogenen Daten in das Werkzeug. Eine Erprobung mit erfundenen Musterfällen bleibt möglich und ist auch sinnvoll, weil sich nur so zeigt, ob das Werkzeug die Aufgabe überhaupt löst.
Woran Sie eine gute Antwort erkennen
- Sie erkennt, dass „Einen AVV stellen wir gerne bereit“ kein gezeichneter Vertrag ist.
- Sie fragt nach dem Namen des Unterauftragnehmers. Ohne Namen lässt sich die Kette nicht prüfen.
- Sie liest die 30-Tage-Speicherung als das, was sie ist, nämlich eine Verarbeitung beim Anbieter mit allen Folgen.
- Sie trennt die Erprobung mit Musterdaten vom Produktivgang. Damit bleibt das Verfahren in Bewegung, ohne die Rechtslage zu übergehen.
Woran eine schwache Antwort scheitert
- Sie hält die Antwort für ausreichend, weil „Frankfurt und Dublin“ darin vorkommt.
- Sie liest die Aussage zum Modelltraining als verbindliche Zusage. Ein Werbesatz im Fließtext einer Mail bindet den Anbieter nicht, das tut nur der Vertrag.
- Sie fragt nach ISO-Zertifikaten und lässt die Unterauftragskette offen. Zertifikate sind leichter zu bekommen als Namen.
- Sie schiebt die Entscheidung zum Datenschutzbeauftragten, ohne die offenen Punkte zu benennen. Der kann nichts prüfen, was niemand aufgeschrieben hat.
Häufige Verwechslungen
Serverstandort und Zugriffsort sind zwei verschiedene Dinge. Daten können in Frankfurt liegen und von einem Supportteam außerhalb der EU eingesehen werden. Was tatsächlich gilt, steht im Vertrag und in den technischen Maßnahmen.
Ein Auftragsverarbeitungsvertrag ist keine Freigabe für alles. Er regelt, wie der Anbieter im Auftrag verarbeitet. Ob die Behörde überhaupt verarbeiten darf, entscheidet die Rechtsgrundlage nach Art. 6 DSGVO. Beides wird getrennt geprüft.
Diskussion & Erfahrungsaustausch
Wie nutzen Sie KI in Ihrer Behörde zu diesem Thema? Teilen Sie Erfahrungen, stellen Sie Fragen, anonym oder mit E-Mail. Kommentare liegen auf eigenen Servern (DSGVO-konform).