1. Ethische Prinzipien für KI in der Verwaltung
KI in der öffentlichen Verwaltung wirft spezifische ethische Fragen auf, die über Datenschutz und Recht hinausgehen. Vier Prinzipien stehen im Mittelpunkt:
- Menschenwürde und Autonomie: KI-Systeme dürfen Menschen nicht entmündigen oder ihre Entscheidungsfreiheit einschränken. In der Verwaltung bedeutet das: Bürger:innen müssen immer die Möglichkeit haben, eine menschliche Entscheidung zu verlangen.
- Gerechtigkeit und Fairness: Algorithmen dürfen keine bestehenden Ungleichheiten verstärken. Wer schon benachteiligt ist, darf durch KI nicht noch weiter benachteiligt werden.
- Transparenz und Erklärbarkeit: Betroffene müssen verstehen können, wie eine KI zu einer Entscheidung kommt. "Black-Box-Modelle" sind in der Verwaltung problematisch.
- Rechenschaftspflicht (Accountability): Wenn etwas schiefgeht, muss klar sein, wer die Verantwortung trägt. Nicht das KI-System, sondern der Mensch dahinter.
2. Verzerrungen (Bias) in KI-Systemen
KI-Systeme lernen aus Daten, und Daten enthalten oft historische Verzerrungen. Wenn ein Modell mit alten Daten trainiert wird, übernimmt es auch alte Vorurteile.
Beispiele für Bias in der Verwaltung:
- Adress-Bias: Postleitzahlen korrelieren oft mit sozialer Lage und Migration. Ein KI-System, das PLZ berücksichtigt, kann indirekt nach Herkunft diskriminieren.
- Namens-Bias: Namen werden oft als Proxy für ethnische Herkunft verwendet. Algorithmen, die Anträge automatisiert sortieren, können unbewusst gegen bestimmte Namen voreingenommen sein.
- Geschlechts-Bias: Historische Daten zeigen, dass Frauen in bestimmten Berufen seltener förderfähig eingestuft wurden. Ein KI-System übernimmt dieses Muster.
- Alters-Bias: Junge Menschen werden in Arbeitsmarktprogrammen oft als flexibler eingeschätzt – ein Muster, das KI reproduziert.
Praxisfall: Scoring-System in der Jobbörse
Ein KI-gestütztes Scoring-System soll Job-Vorschläge für SGB-II-Leistungsberechtigte generieren. Die Trainingsdaten stammen aus den letzten 10 Jahren. Historisch wurden Männer mit Migrationshintergrund in der Branchenliste seltener empfohlen. Das System reproduziert das Muster: Diese Gruppe erhält systematisch schlechtere Job-Vorschläge. Würde das System so eingesetzt werden, wäre das ein klarer Fall von mittelbarer Diskriminierung nach § 3 Abs. 2 AGG — ohne dass jemand explizit danach gefragt hat.
Kritisch: Transparenzpflichten
Art. 13 AI Act verlangt von hochriskanten KI-Systemen Transparenz gegenüber Nutzern: Betroffene müssen erfahren, wie das System funktioniert und welche Daten es verarbeitet. Art. 14 AI Act ergänzt dies: Menschen müssen die Möglichkeit haben, KI-Ergebnisse zu überprüfen und zu übersteuern (menschliche Aufsicht). In der Verwaltung bedeutet das: Wenn ein KI-System eine Entscheidung vorschlägt, muss nachvollziehbar sein, warum – und ein Mensch muss widersprechen können.
3. Handlungsanweisungen zur Vermeidung von Diskriminierung
Diskriminierung durch KI lässt sich nicht vollständig eliminieren, aber minimieren. Hier ist ein praktischer Rahmen für den öffentlichen Dienst:
- Diversität in den Trainingsdaten: Stellen Sie sicher, dass Trainingsdaten alle Zielgruppen ausreichend repräsentieren. Bei Zweifeln: Daten ergänzen oder separat prüfen.
- Sensible Attribute überwachen: Dokumentieren Sie, welche Merkmale (PLZ, Name, Alter, Geschlecht) das System verwendet. Werden sensible Attribute als Proxy verwendet?
- Regelmäßige Fairness-Audits: Prüfen Sie regelmäßig, ob verschiedene Gruppen statistisch unterschiedliche Ergebnisse erhalten. Tools wie "Fairness Indicators" oder einfache Kreuztabellen helfen.
- Fallback für Betroffene: Jede automatisierte Entscheidung muss mit einem Widerspruchsweg verbunden sein, der zu einem menschlichen Sachbearbeiter führt.
- Dokumentation der Annahmen: Welche Annahmen wurden bei der Modellentwicklung getroffen? Wer hat die Daten ausgewählt? Antworten müssen nachweisbar sein.
Merksatz
KI-Systeme reproduzieren, was sie lernen. Wenn Trainingsdaten Ungleichheiten enthalten, verstärkt die KI diese. Die Verantwortung liegt beim Menschen – nicht beim Algorithmus. Regelmäßige Fairness-Audits und menschliche Aufsicht sind die beste Versicherung gegen Diskriminierung.
Was tun, wenn Sie Diskriminierung vermuten?
Sie nutzen täglich ein KI-System und haben das Gefühl, dass bestimmte Personengruppen systematisch schlechter abschneiden. So gehen Sie vor:
- Notieren: Wann, welches System, welches Muster haben Sie beobachtet? Konkrete Fälle aufschreiben.
- Melden: Sprechen Sie Ihre Teamleitung an – oder direkt den Datenschutzbeauftragten Ihrer Behörde. In vielen Häusern gibt es einen KI- oder Digitalisierungsbeauftragten.
- Nicht selbst beheben: Verändern Sie das System nicht eigenmächtig. Das ist Aufgabe der verantwortlichen Stelle.
- Betroffene schützen: Bis zur Klärung: Übersteuern Sie die KI-Empfehlung manuell, wenn Sie eine konkrete Benachteiligung erkennen. Das ist Ihr Recht – und Ihre Pflicht.