1. Was ist ein Algorithmus?
Ein Algorithmus ist nichts anderes als eine Schritt-für-Schritt-Anleitung zur Lösung eines Problems. Wenn Sie einen Antrag auf Wohngeld stellen, prüft ein Sachbearbeiter nach festen Regeln: Einkommen, Miete, Familienstand – das ist algorithmisch.
Der Unterschied: Ein Computer-Algorithmus macht das automatisch und skaliert es auf tausende Fälle. Das ist effizient – aber auch gefährlich, wenn die Regeln fehlerhaft oder ungerecht sind.
- Formale Definition: Eine endliche, eindeutige Handlungsvorschrift zur Lösung eines Problems
- In der Verwaltung: Entscheidungsbäume, Scoring-Systeme, Klassifizierungsregeln
- Beispiel: Wenn Haushaltseinkommen < X und Miete < Y, dann Wohngeld = Z
Praxisfall: Wohngeld-Rechner
Ein Wohngeld-Rechner ist ein einfacher Algorithmus: Er nimmt Eingaben (Einkommen, Miete, Personen im Haushalt) und berechnet nach festen Regeln einen Betrag. Kritisch wird es, wenn der Algorithmus nicht nur rechnet, sondern auch bewertet – z.B. "Angemessenheit der Wohnung" mit Hilfe von Marktdaten.
2. Algorithmen in der Verwaltung – Wo begegnen sie uns?
Algorithmen sind bereits in vielen Verwaltungsprozessen verankert – oft unsichtbar:
- Sozialleistungen: Automatisierte Bewilligungsprüfungen (SGB II, SGB XII, Bafög)
- Arbeitsmarkt: Job-Vorschläge und Maßnahmen-Zuweisungen (SGB II/III)
- Stadtplanung: Verkehrsfluss, Parkraumbewirtschaftung, Bebauungspläne
- Personalauswahl: Scoring bei Bewerbungen, algorithmische Vorsortierung
- Bürgeranfragen: Chatbots, automatisierte Antwortsysteme, FAQs
Kritisch: Black-Box-Problematik
Viele moderne KI-Algorithmen (insbesondere Deep Learning) sind Black-Box-Systeme: Sie liefern Ergebnisse, aber niemand kann genau nachvollziehen, warum sie zu einer bestimmten Entscheidung gekommen sind. In der Verwaltung ist das ein Problem – denn Begründungspflicht und Nachprüfbarkeit sind zentral.
3. Algorithmus-Kritik: Was kann schiefgehen?
Algorithmen sind nicht neutral. Sie spiegeln die Annahmen ihrer Entwickler und die Daten ihrer Trainingszeit wider. Typische Probleme:
- Historischer Bias: Wenn alte Daten diskriminierende Muster enthalten, reproduziert der Algorithmus sie. Beispiel: Wohngeld-Algorithmus, der bestimmte Stadtviertel systematisch schlechter bewertet.
- Proxy-Diskriminierung: Attribute, die indirekt diskriminieren. Beispiel: Postleitzahl als Proxy für soziale Herkunft.
- Feedback-Loops: Wenn ein Algorithmus auf seine eigenen Ergebnisse trainiert, verstärkt er bestehende Ungleichheiten. Beispiel: Polizei-Prädiktionssoftware, die bestimmte Viertel überprüft und dadurch mehr Daten dafür generiert.
- Mangelnde Transparenz: Betroffene wissen nicht, dass ein Algorithmus entschieden hat oder wie er entschieden hat.
- Menschliche Aufsicht wird ausgehebelt: Algorithmus-Vorschläge werden ungeprüft übernommen, weil "der Computer das ja besser weiß".
Praxisfall: Scoring-System Jobcenter
Ein Jobcenter setzt ein KI-System ein, das Bewerber:innen nach Chancen auf dem Arbeitsmarkt einstuft. Die Trainingsdaten stammen aus den 2000ern. Das System bewertet Menschen mit Migrationshintergrund systematisch schlechter, weil sie in den alten Daten seltener „erfolgreich“ waren. Das ist kein bewusster Rassismus – das System hat das Muster gelernt und reproduziert es nun automatisch.
4. Gestaltungsprinzipien für faire Algorithmen
Wie können Algorithmen so gestaltet werden, dass sie fair, transparent und überprüfbar sind? Die EU Trustworthy AI Guidelines und der EU AI Act geben hier Orientierung:
- Transparency by Design: Von Anfang an dokumentieren, welche Daten, Regeln und Annahmen dem Algorithmus zugrunde liegen. Nachträglich ist das viel schwieriger.
- Diversität in Trainingsdaten: Sicherstellen, dass alle relevanten Gruppen in den Trainingsdaten ausreichend vertreten sind.
- Regelmäßige Fairness-Audits: Prüfen, ob verschiedene Gruppen statistisch unterschiedliche Ergebnisse erhalten. Tools: Kreuztabellen, Demographic Parity.
- Menschliche Aufsicht (Human-in-the-Loop): Algorithmus-Vorschläge müssen von einem Menschen überprüft und bestätigt werden können.
- Erklärbarkeit: Betroffene müssen verstehen können, wie eine Entscheidung zustande kam – mindestens in verständlicher Sprache.
- Widerspruchsweg: Jede automatisierte Entscheidung muss mit einem Menschen überprüfbar sein.
Merksatz
Algorithmen sind keine neutralen Werkzeuge – sie spiegeln Annahmen, Daten und Machtverhältnisse wider. Vertrauenswürdige Algorithmen brauchen Transparenz, Fairness-Audits und menschliche Aufsicht. Der EU AI Act verlangt genau das für hochriskante Systeme.
5. Prüfung und Auditierung von Algorithmen
Als Mitarbeitende im öffentlichen Dienst können Sie bei jedem neuen KI-System diese Fragen stellen:
- Welche Daten wurden verwendet? Sind sie aktuell? Decken Sie alle relevanten Gruppen ab?
- Welche Annahmen wurden getroffen? Wer hat das Modell entwickelt? Mit welchem Ziel?
- Wie wurden sensible Attribute behandelt? Gibt es Proxy-Diskriminierung (z.B. PLZ, Name)?
- Wie oft wird das System überprüft? Gibt es regelmäßige Fairness-Audits?
- Was passiert bei Fehlern? Gibt es einen Fallback? Wer überprüft die Ergebnisse?
Rechtlich: Art. 13 EU AI Act (Transparenz)
Anbieter hochriskanter KI-Systeme müssen nach Art. 13 EU AI Act sicherstellen, dass ihr System so transparent ist, dass Betreiber die Ausgaben angemessen interpretieren und nutzen können. Das bedeutet: Nicht nur Techniker, sondern auch Sachbearbeiter:innen müssen die Entscheidungsgrundlagen verstehen und dokumentieren können.