Nach dieser Einheit können Sie ein in Ihrem Haus freigegebenes KI-Werkzeug benutzen, ohne Schaden anzurichten. Mehr nicht, und das ist Absicht. Sie brauchen keine Anmeldung und kein Vorwissen, und Sie müssen keine Software installieren.
Am Ende stehen fünf Fragen. Wer vier davon richtig beantwortet, hat das KI-Pferdchen.
Das KI-Pferdchen ist kein Nachweis der KI-Kompetenz nach Art. 4 der KI-Verordnung der EU. Diese Pflicht gilt seit dem 2. Februar 2025 und richtet sich an Anbieter und Betreiber von KI-Systemen, die für ein ausreichendes Maß an Kompetenz ihres Personals zu sorgen haben. Eine Einheit von zwanzig Minuten reicht dafür nicht aus.
Der Nachweis beginnt mit dem Abzeichen Bronze, also mit den sechs Pflichtmodulen und der Prüfung am Ende. Diese Einheit hier zeigt Ihnen vorher, worum es geht.
Beim Schwimmen ist die Aufteilung dieselbe. Das Seepferdchen, an das der Name hier angelehnt ist, bescheinigt nur, dass ein Kind sich über Wasser hält. Als sicherer Schwimmer zählt nach der Prüfungsordnung erst das Abzeichen Bronze, das dort bis heute auch Freischwimmer heißt. Daher heißt die zweite Stufe hier genauso.
Im Dienst begegnen Ihnen zwei ganz verschiedene Sorten von KI. Ihre Verwechslung ist die häufigste Ursache für falsche Erwartungen.
Die erste Sorte erkennt und sortiert. Ein Spamfilter trennt Werbung von der übrigen Post, eine Klassifikation ordnet einen eingehenden Antrag der richtigen Antragsart zu. Solche Programme haben aus vielen alten Beispielen gelernt, welche Merkmale zu welcher Gruppe gehören. Sie können genau diese eine Aufgabe, und über deren Rand hinaus können sie gar nichts.
Die zweite Sorte erzeugt Text. Werkzeuge wie ChatGPT, Copilot oder Gemini setzen Wort für Wort das fort, was in ihren Trainingsdaten auf ähnliche Formulierungen gefolgt ist. Dabei entsteht etwas, das wie eine Auskunft aussieht. Zur Auskunft fehlt ihm der Vorgang des Nachschlagens, weil das Modell die Antwort berechnet.
Verstehen kann keine der beiden Sorten. Ein Modell hat keinen Begriff vom Sozialrecht, keine Akte vor sich und kein Ermessen. Die allgemein denkende Maschine aus den Filmen gibt es bisher nicht. Was heute in einer Behörde läuft, gehört immer zu einer der beiden Sorten von oben.
Eine Kollegin aus der Poststelle fragt, ob die neue Software, die Anträge nach Antragsart sortiert, jetzt entscheide. Die Antwort lautet nein. Das Programm ordnet zu, und die Zuordnung sagt nichts über den Anspruch. Wer entscheidet, bleibt die Sachbearbeitung.
Ein Sprachmodell liefert immer eine Antwort. Ob es die Sache kennt, ändert daran nichts. Fehlt ihm die Information, füllt es die Lücke mit dem, was an dieser Stelle üblich wäre. So entstehen Paragrafen, die es nicht gibt, Fristen, die nie galten, und Gerichtsentscheidungen mit Aktenzeichen, hinter denen kein Verfahren steht. Dieser Fehler heißt Halluzination, und er sieht im Text genauso aus wie der richtige Teil der Antwort.
Teuer wird das an der Stelle, an der niemand mehr nachsieht. Ein erfundener Paragraf in einem Vermerk fällt spätestens im Widerspruchsverfahren auf, und dann steht die Behörde damit vor der Widerspruchsstelle oder vor Gericht.
Eine eingebaute Websuche entschärft das nur zum Teil. Findet die Suche nichts Eindeutiges, greift das Modell auf sein Trainingswissen zurück. Welchen der beiden Wege es gegangen ist, sagt es von sich aus nicht.
Jede Zahl, jeder Paragraf, jede Frist und jede Quelle aus einer KI-Antwort wird an der amtlichen Quelle nachgesehen, bevor irgendetwas davon weitergeht. Bei Bundesrecht ist das gesetze-im-internet.de, bei Landesrecht das jeweilige Landesportal.
Jede KI-Ausgabe ist ein Entwurf. Unterschrieben wird er von einem Menschen, und dieser Mensch steht für den Inhalt ein.
Für den Anfang reicht eine einzige Regel. In ein offenes KI-Werkzeug gehen keine Personendaten. Kein Name, kein Geburtsdatum, keine Anschrift, kein Aktenzeichen, keine Angabe zur Gesundheit. Das gilt für Bürgerinnen und Bürger genauso wie für Beschäftigte des Hauses.
Der Grund liegt in den Nutzungsbedingungen. Was Sie in ein frei zugängliches Werkzeug eingeben, liegt beim Anbieter und fließt je nach Vertrag in die Weiterentwicklung des Modells ein. Ob Ihr Haus einen Vertrag hat, der das ausschließt, weiß Ihre IT und nicht das Werkzeug.
Der Personenbezug hängt dabei nicht am Namen. Ein Aktenzeichen ordnet den Vorgang genauso eindeutig zu, und „Frau D., geboren 1981, wohnhaft in der Musterstraße" ist kein anonymer Fall. Abkürzen genügt also nicht. Die Angaben müssen raus, wenn die Aufgabe sie nicht braucht.
Und meistens braucht die Aufgabe sie nicht. Für eine Zusammenfassung zählt der Sachverhalt, für einen Textentwurf die Textsorte und der Anlass. Der Name ändert an beidem nichts und bleibt in der Akte.
Ein Kollege will sich einen langen Widerspruch zusammenfassen lassen und tippt dafür in ein frei zugängliches Werkzeug:
Fasse den folgenden Widerspruch in fünf Sätzen zusammen. Widersprechende Person ist Frau Aylin Demir, geboren am 14.03.1981, wohnhaft Musterstraße 12, 12043 Berlin, Aktenzeichen SGB-2026-4417. Sie widerspricht der Ablehnung ihres Antrags auf Grundsicherung. [Es folgt der Text des Widerspruchs.]
Schreiben Sie die Eingabe so um, dass die Zusammenfassung noch gelingt und so wenig Personenbezug wie möglich in das Werkzeug geht. Notieren Sie danach in einem Satz, woran Sie erkennen, dass Sie nicht zu viel gestrichen haben.
Ihre Eingaben bleiben in diesem Browserfenster. Sie werden nicht gespeichert und nicht übertragen, ein Neuladen der Seite verwirft sie.
Fasse den folgenden Widerspruch in fünf Sätzen zusammen. Die widersprechende Person wendet sich gegen die Ablehnung eines Antrags auf Grundsicherung. [Text des Widerspruchs ohne Name, Geburtsdatum, Anschrift und Aktenzeichen einsetzen.]
Das Werkzeug braucht den Sachverhalt und die Begründung. Name, Geburtsdatum, Anschrift und Aktenzeichen ändern an der Zusammenfassung nichts. Fällt dagegen der Text des Widerspruchs selbst weg, bleibt nichts mehr zusammenzufassen, und die Aufgabe ist zur Hälfte gelöst.
Prompt heißt einfach die Eingabe, mit der Sie dem Werkzeug sagen, was es tun soll. Das erste Ergebnis hängt fast vollständig daran, wie viel in dieser Eingabe steht. Was Sie weglassen, rät das Modell, und es meldet das nicht.
Brauchbar wird eine Eingabe, wenn sie klärt, wer schreibt, worum es geht, was herauskommen soll, wie lang und in welchem Ton, und was auf keinen Fall im Text stehen darf. Das Verbot ist bei Verwaltungstexten der wichtigste Teil, weil Modelle gern Paragrafen und Fristen ergänzen, die gut aussehen.
Ein Antrag auf einen Zuschuss zur Wohnungserstausstattung wurde abgelehnt, weil trotz zweier Erinnerungen keine Einkommensnachweise kamen. Die antragstellende Person soll eine Mail bekommen, keinen Bescheid.
Du bist Sachbearbeiterin in einem Sozialamt und schreibst an eine antragstellende Person. Sachverhalt: Der Antrag auf einen Zuschuss zur Wohnungserstausstattung wurde abgelehnt, weil trotz zweier schriftlicher Erinnerungen keine Einkommensnachweise eingereicht wurden. Aufgabe: Schreibe eine E-Mail, die die Ablehnung und ihren Grund nennt und sagt, dass ein neuer Antrag mit vollständigen Nachweisen jederzeit möglich ist. Vorgaben: - Höchstens 130 Wörter. - Sachlich und freundlich, ohne Vorwurf. - Anrede „Sehr geehrte Antragstellerin", kein Name, keine Anschrift. - Nenne keinen Paragrafen und keine Frist. Beides setze ich selbst ein. - Keine Rechtsbehelfsbelehrung, das ist keine Bescheidform. - Gib nur die E-Mail aus, ohne Vor- und Nachbemerkung.
Was danach kommt, ist ein Entwurf. Gelesen wird er daraufhin, ob das Modell doch einen Paragrafen oder eine Frist eingesetzt hat und ob der Ton der antragstellenden Person die Schuld zuweist.
Eine Kollegin fragt, warum das Werkzeug „so ein Geschwafel" ausgibt. Ihre Eingabe lautet vollständig:
Schreib mal was zur Terminabsage.
Der Vorgang dahinter: Ein vereinbarter Termin im Bürgeramt muss abgesagt werden, weil das Fachverfahren am betreffenden Vormittag gewartet wird. Die Person soll eine Mail bekommen, die die Absage nennt und sagt, wie sie einen neuen Termin bekommt. Ein Ersatztermin steht noch nicht fest.
Schreiben Sie die Eingabe neu, mit Rolle, Sachverhalt, Aufgabe, Länge, Ton und mindestens einem Verbot. Notieren Sie danach in einem Satz, was Sie am Ergebnis zuerst prüfen.
Ihre Eingaben bleiben in diesem Browserfenster. Sie werden nicht gespeichert und nicht übertragen, ein Neuladen der Seite verwirft sie.
Du bist Sachbearbeiter in einem Bürgeramt und schreibst an eine Person, die einen Termin vereinbart hat. Sachverhalt: Der Termin muss abgesagt werden, weil das Fachverfahren an diesem Vormittag gewartet wird. Ein Ersatztermin steht noch nicht fest. Aufgabe: Schreibe eine E-Mail, die den Termin absagt, den Grund kurz nennt und erklärt, dass die Person online oder telefonisch einen neuen Termin buchen kann. Vorgaben: - Höchstens 120 Wörter. - Sachlich und freundlich, mit einer kurzen Entschuldigung. - Kein Name, keine Anschrift, kein Aktenzeichen. - Nenne kein konkretes Ersatzdatum, es steht noch keines fest. - Gib nur die E-Mail aus, ohne Vor- und Nachbemerkung.
Ob im Entwurf ein Ersatztermin steht. Genau dort erfindet das Modell am zuverlässigsten etwas, weil eine Absage ohne neuen Termin unvollständig wirkt und das Muster aus den Trainingsdaten die Lücke füllt.
Fünf Fragen aus dem, was oben steht. Vier richtige Antworten genügen. Nach jeder Antwort sehen Sie, warum sie richtig oder falsch war.
Das KI-Pferdchen zeigt, wie Sie ein freigegebenes Werkzeug benutzen, ohne Schaden anzurichten. Er beantwortet nicht, welche Rechtsgrundlage Ihre Verarbeitung braucht, wann ein Einsatz unzulässig ist und wie Ihr Haus ein Werkzeug bewertet, bevor es freigegeben wird. Diese Fragen behandeln die sechs Module der Bronze-Stufe.
Bronze endet mit einer Prüfung, und erst dessen Teilnahmebescheinigung ist als Nachweis der KI-Kompetenz nach Art. 4 der KI-Verordnung gedacht. Der Weg dorthin beginnt bei Modul 1.1. Für das KI-Pferdchen gibt es trotzdem schon ein eigenes Blatt, die Teilnahmebescheinigung KI-Pferdchen.