Der EU AI Act ist die erste umfassende Rechtsordnung für Künstliche Intelligenz weltweit. Verabschiedet im Mai 2024, in Kraft seit August 2024. Die Pflichten greifen gestaffelt: Verbote ab Februar 2025, Pflichten für hochriskante Systeme ab August 2026. Ziel: KI-Systeme in der EU sicher, vertrauenswürdig und rechtskonform einsetzen.
Kernziele:
Geltungsbereich: Der AI Act gilt für alle KI-Systeme, die in der EU eingesetzt oder auf den EU-Markt gebracht werden – auch wenn der Anbieter außerhalb der EU sitzt (z.B. OpenAI in den USA).
Der EU AI Act teilt KI-Systeme nach ihrem Risikoniveau in vier Klassen ein:
| Risikoklasse | Beispiel | Pflichten |
|---|---|---|
| Verboten | Soziale Scoring-Systeme | Verboten |
| Hochrisiko | KI bei Bewilligung von SGB-Leistungen, Rekrutierung | Strikte Dokumentation, Prüfung, menschliche Aufsicht |
| Begrenztes Risiko (Transparenzpflicht) | Chatbots, Deepfakes, Emotionserkennung | Transparenzpflicht: Nutzer müssen informiert werden, dass sie mit KI interagieren (Art. 50 AI Act) |
| Minimalrisiko | Spamfilter, Empfehlungssysteme (nicht sensibel) | Keine besonderen Pflichten, aber freiwillige Kodizes möglich |
Ein interner Chatbot für Bürgeranfragen (z.B. "Wie beantrage ich Wohngeld?") fällt in die Klasse "Mit Risiko verbunden" – Nutzer müssen wissen, dass sie mit einem KI-System sprechen, und es muss ein menschlicher Fallback geben. Ein KI-System zur automatisierten Bewilligung von Leistungen nach SGB II fällt in die Klasse "Hochrisiko" – umfangreiche Dokumentation, regelmäßige Prüfung und ständige menschliche Aufsicht sind Pflicht.
Stellen Sie sich diese drei Fragen zu einem geplanten KI-Einsatz in Ihrer Abteilung:
Zwei oder mehr Ja: Sprechen Sie vor dem Einsatz Ihren IT-Beauftragten und Datenschutzbeauftragten an. Eine formale Risikoklassifizierung und Dokumentation sind Pflicht.
Als öffentliche Stelle hat die Verwaltung besondere Sorgfaltspflichten:
Für Unternehmen drohen Geldbußen bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes — je nachdem, was höher ist. Für Behörden sind die Konsequenzen anders, aber nicht harmlos: Reputationsverlust, öffentliche Anfragen von Abgeordneten, Prüfung durch die Datenschutz-Aufsicht, dienst- oder disziplinarrechtliche Konsequenzen für Mitarbeitende.
Jedes KI-System, das die Behörde einsetzt, muss zunächst nach Risikoklassen eingestuft werden: Minimalrisiko, Transparenzrisiko, Hochrisiko oder Verboten. Nur so können die richtigen Pflichten (Dokumentation, Aufsicht, Transparenz) erfüllt werden.
Wie nutzen Sie KI in Ihrer Behörde zu diesem Thema? Teilen Sie Erfahrungen, stellen Sie Fragen — anonym oder mit E-Mail. Kommentare liegen auf eigenen Servern (DSGVO-konform).