Kommunikation und Inhalte
Lernziele
- Die Pflichten benennen können, die für einen Chatbot einer Behörde gelten, und sie als Regel für das System formulieren
- Einfache Sprache und Leichte Sprache auseinanderhalten und einschätzen können, was eine maschinelle Übersetzung dabei leistet
- Vor der Veröffentlichung eines KI-erzeugten Inhalts die Rechtsfragen klären können, die an Bild und Text hängen
- Benennen können, wer für einen veröffentlichten Inhalt einsteht
1. Wo KI in der Kommunikation auftaucht
Nach außen erscheint KI in der Behördenkommunikation an drei Stellen. Sie beantwortet Fragen im Chatfenster, sie übersetzt zwischen Sprachen und Sprachniveaus, und sie entwirft Texte und Bilder für Flyer, Broschüren, Website und Berichte. Die Zeitersparnis ist erheblich. Ein Entwurf für eine zweiseitige Information zur Mülltrennung entsteht in Minuten statt an drei Redaktionstagen.
An allen drei Stellen steht am Ende der Name der Behörde darunter. Damit gilt überall dieselbe Prüfung. Stimmt der Inhalt? Darf er so erscheinen? Und weiß die Person am anderen Ende, mit wem sie es zu tun hat?
2. Der Chatbot vor der Bürgerin
Chatbots gibt es in drei Bauformen. Der regelbasierte gibt feste Antworten auf feste Fragen, sicher und unbeweglich. Der auf einem Sprachmodell gebaute versteht freie Formulierungen und erfindet dafür gelegentlich Auskünfte. Die gemischte Form beantwortet Standardfälle nach festen Regeln und schickt den Rest an das Modell.
Art. 50 der KI-Verordnung gilt seit dem 2. August 2026 und verlangt, dass eine Person erkennt, dass sie mit einem KI-System spricht. Der Hinweis gehört in das Chatfenster und steht dort, bevor jemand etwas eingibt. Ein Satz in der Datenschutzerklärung erfüllt die Pflicht nicht.
Zwei Grenzen kommen aus der Sache selbst. Zu Ansprüchen, Fristen und Rechtsfolgen gibt ein Auskunftsbot keine Auskunft, weil eine Antwort mit „in der Regel“ als Zusage gelesen wird. Und er braucht einen Weg zum Menschen, den er von sich aus anbietet, sobald eine Notlage oder eine laufende Leistungsangelegenheit erkennbar wird. Personenbezogene Daten haben im Chatfenster nichts zu suchen, weil sie beim Anbieter gespeichert werden.
3. Verständlich machen
Einfache Sprache liegt etwa auf dem Niveau B1 des Europäischen Referenzrahmens, mit kurzen Sätzen, aktiven Verben und wenigen Fremdwörtern. Leichte Sprache geht darunter, unterhalb A2, mit Bildern und festen Regeln, die das Netzwerk Leichte Sprache e. V. pflegt. Eine Prüfung durch Menschen aus der Zielgruppe gehört zum Verfahren.
Maschinelle Übersetzung ist im Alltagsdeutsch gut und bei Rechtsbegriffen unzuverlässig. „Ermessen“, „Zweckmäßigkeit“ und „subsidiär“ verlieren in der Übersetzung ihren rechtlichen Gehalt, ohne dass der Text auffällig würde. Für eine Bürgerinformation heißt das, dass eine fachkundige muttersprachliche Person den Text gegenliest, bevor er erscheint.
Barrierefreiheit ist dabei keine freiwillige Zugabe. Die BITV 2.0 verpflichtet Bundesbehörden zu barrierefreien Angeboten, die Länder haben eigene Regelungen. Untertitel, vorgelesene Texte und vereinfachte Fassungen lassen sich maschinell erzeugen und werden trotzdem geprüft.
4. Bevor ein Inhalt erscheint
Bei KI-erzeugten Inhalten hängen zwei verschiedene Fragen aneinander, die gern vermischt werden. Die erste ist das Urheberrecht. Ein rein maschinell erzeugtes Ergebnis ist nach § 2 Abs. 2 UrhG in der Regel keine persönliche geistige Schöpfung und damit nicht geschützt. Wer den Inhalt erheblich auswählt, gestaltet und umbaut, kann Urheber sein. Eine eingegebene Anweisung mit unverändert übernommenem Ergebnis reicht dafür nicht. Ohne eigenes Recht lässt sich auch keine freie Lizenz wie CC0 vergeben.
Die zweite Frage sind die Nutzungsbedingungen des Werkzeugs. Sie binden die Behörde vertraglich, unabhängig davon, ob am Ergebnis ein Urheberrecht besteht. Manche Anbieter beanspruchen Rechte an Eingaben und Ausgaben, manche schließen bestimmte Verwendungen aus. Das Ergebnis dieser Prüfung gehört in die Akte.
Danach bleibt die inhaltliche Kontrolle. Zahlen, Termine, Paragrafen und Quellen werden nachgeprüft, weil ein Modell sie erfindet. Bilder werden daraufhin angesehen, ob sie Stereotype fortschreiben und ob erkennbare Personen darauf erscheinen dürfen. Unterschrieben wird der Inhalt von einem Menschen, der inhaltlich und rechtlich dafür einsteht.
Vier Chatbot-Dialoge aus dem Testbetrieb
Ausgangslage
Die Stadt schaltet einen Chatbot auf die Website. Aus dem Testbetrieb liegen vier Dialoge vor:
1 Nutzerin: „Wann hat das Bürgeramt Mitte auf?“ Bot: „Das Bürgeramt Mitte hat montags bis freitags von 8 bis 18 Uhr geöffnet.“ 2 Nutzer: „Ich habe seit vier Monaten kein Wohngeld bekommen und weiß nicht mehr weiter.“ Bot: „Das tut mir leid zu hören. Bitte prüfen Sie, ob Ihre Kontodaten aktuell sind.“ 3 Nutzerin: „Bin ich mit 1.900 € netto und zwei Kindern wohngeldberechtigt?“ Bot: „Ja, bei diesem Einkommen haben Sie in der Regel Anspruch auf Wohngeld.“ 4 Nutzer: „Bist du ein Mensch?“ Bot: „Ich bin für Sie da und helfe Ihnen gern weiter.“
Auftrag
Beurteilen Sie jeden Dialog und schreiben Sie für die problematischen Fälle die Regel auf, die im System hinterlegt werden muss.
Ihre Eingaben bleiben in diesem Browserfenster. Sie werden nicht gespeichert und nicht übertragen, ein Neuladen der Seite verwirft sie.
Musterlösung anzeigen
Dialog 1
In Ordnung, wenn die Öffnungszeiten aus einer gepflegten Quelle kommen und nicht aus dem Trainingswissen des Modells. Regel: Öffnungszeiten, Adressen und Zuständigkeiten holt der Bot zur Laufzeit aus dem städtischen Verzeichnis. Findet er dort nichts, sagt er das und verweist auf die Seite, statt eine Zeit zu nennen.
Dialog 2
Der schwerwiegendste der vier Fälle. Hinter der Frage steht ein Mensch in einer Notlage, und der Bot antwortet mit einem Standardtipp. Regel: Erkennt der Bot eine laufende Leistungsangelegenheit, eine ausbleibende Zahlung oder Anzeichen einer Notlage, bricht er die Auskunft ab und übergibt an einen Menschen, mit Telefonnummer, Sprechzeiten und dem Weg außerhalb der Sprechzeiten. Rückfragen zum Fall stellt er nicht.
Dialog 3
Eine Rechtsauskunft und damit unzulässig. Der Bot beantwortet eine Anspruchsfrage, die von Miethöhe, Haushaltsgröße, Wohnort und Einkommensart abhängt, und sein „in der Regel“ wird als Zusage gelesen. Regel: Zu Ansprüchen, Fristen und Rechtsfolgen gibt der Bot keine Auskunft. Er verweist auf den amtlichen Wohngeldrechner und auf die zuständige Stelle.
Dialog 4
Verstoß gegen die Transparenzpflicht aus Art. 50 AI Act. Die Antwort weicht aus, und das ist bei dieser Frage dasselbe wie eine Täuschung. Regel: Auf die Frage nach der Natur des Gegenübers antwortet der Bot in einem Satz, dass er ein automatisches Auskunftssystem ist. Derselbe Hinweis steht ungefragt vor dem ersten Dialogschritt im Fenster.
Woran Sie eine gute Antwort erkennen
- Sie erkennt Dialog 2 als den kritischsten und begründet das mit der Lage der fragenden Person und nicht mit der fachlichen Richtigkeit der Antwort.
- Sie formuliert die Regeln so, dass jemand sie einbauen kann. „Freundlicher antworten“ ist keine Regel, „Übergabe mit Telefonnummer und Sprechzeiten“ ist eine.
- Sie sieht bei Dialog 1 das eigentliche Risiko, nämlich die Herkunft der Information.
- Sie ordnet Dialog 4 der Rechtspflicht zu und verlangt den Hinweis auch ungefragt.
Woran eine schwache Antwort scheitert
- Sie hält Dialog 1 und 4 für harmlos und Dialog 3 für den einzigen Fehler.
- Sie schreibt zu Dialog 2, der Bot solle empathischer formulieren. Das Problem ist die fehlende Übergabe.
- Sie verlangt vom Bot, den Anspruch „nur ungefähr“ zu berechnen. Eine ungefähre Anspruchsauskunft ist eine Anspruchsauskunft.
- Sie stützt sich bei Dialog 4 auf Höflichkeit statt auf Art. 50 AI Act.
Häufige Verwechslungen
Ein Hinweis in der Datenschutzerklärung erfüllt die Transparenzpflicht nicht. Der Hinweis gehört dorthin, wo die Person mit dem System spricht, und er steht dort, bevor sie etwas eingibt.
Ein freundlicher Ton ist kein Qualitätsmerkmal. Dialog 2 ist freundlich formuliert und lässt einen Menschen mit vier Monaten ohne Wohngeld allein. Woran sich die Qualität misst, ist der Weg zur zuständigen Stelle.
Drei Fragen vor der Veröffentlichung
Ausgangslage
Für die Website des Amtes soll eine Bildergalerie zu einem Stadtfest entstehen. Die Pressestelle schlägt vor, fehlende Motive mit einem Bildgenerator zu erzeugen, die Bildunterschriften von einem Sprachmodell schreiben zu lassen und das Ganze unter CC0 auf dem städtischen Open-Data-Portal bereitzustellen.
Auftrag
Nennen Sie die drei Fragen, die vor der Veröffentlichung zu klären sind, und beantworten Sie jede, soweit sich das aus diesem Modul beantworten lässt. Sagen Sie, wo eine Antwort offen bleibt und wer sie geben muss.
Ihre Eingaben bleiben in diesem Browserfenster. Sie werden nicht gespeichert und nicht übertragen, ein Neuladen der Seite verwirft sie.
Musterlösung anzeigen
Darf die Stadt die erzeugten Bilder so nutzen?
Das steht in den Nutzungsbedingungen des Werkzeugs. Manche Anbieter räumen die kommerzielle Nutzung ein, manche behalten sich Rechte an den Ausgaben vor, manche schließen bestimmte Verwendungen aus. Diese Frage beantwortet niemand aus dem Bauch, sie wird an den Bedingungen des konkreten Werkzeugs geprüft, und das Ergebnis kommt in die Akte.
Kann die Stadt CC0 überhaupt vergeben?
CC0 setzt voraus, dass die Stadt Rechte hat, auf die sie verzichten kann. Rein maschinell erzeugte Bilder sind nach § 2 Abs. 2 UrhG in der Regel keine persönliche geistige Schöpfung und damit nicht geschützt. Dann verzichtet die Stadt auf ein Recht, das sie gar nicht hat. Wichtiger als das Lizenzsymbol ist in diesem Fall der Hinweis, dass die Bilder maschinell entstanden sind.
Was ist auf den Bildern zu sehen?
Ein Bildgenerator erzeugt Menschen, die es nicht gibt, und Gebäude, die es geben könnte. Für ein Stadtfest heißt das zweierlei. Erkennbare Personen auf den echten Aufnahmen brauchen eine Einwilligung, und maschinell erzeugte Personen dürfen keiner realen Person ähneln. Bei Marken, Logos und geschützten Bauwerken im Hintergrund ist zusätzlich zu prüfen, was gezeigt werden darf.
Was offen bleibt
Ob die Nutzungsbedingungen des konkreten Werkzeugs die geplante Verwendung decken. Das beantwortet die Stelle, die den Vertrag mit dem Anbieter geschlossen hat, im Zweifel zusammen mit dem Justiziariat.
Woran Sie eine gute Antwort erkennen
- Sie unterscheidet die Frage nach den Anbieterbedingungen von der Frage nach dem Urheberrecht. Beide werden gern vermischt und führen zu verschiedenen Ergebnissen.
- Sie erkennt, dass eine Lizenz eine Rechtsposition voraussetzt, die bei maschinell erzeugten Bildern fehlen kann.
- Sie denkt an die abgebildeten Personen, obwohl das Modul das Urheberrecht in den Vordergrund stellt.
- Sie benennt, was offen bleibt und wer es klärt. Das ist der Teil der Antwort mit dem meisten Nutzen.
Woran eine schwache Antwort scheitert
- Sie schließt aus „nicht urheberrechtlich geschützt“ auf „frei verwendbar“. Die Anbieterbedingungen binden die Behörde vertraglich, unabhängig vom Urheberrecht.
- Sie nennt CC0 als saubere Lösung, ohne zu prüfen, ob es etwas zu lizenzieren gibt.
- Sie prüft nur die Bildunterschriften und lässt die Bilder aus. Die Bilder sind der riskantere Teil.
- Sie beantwortet alle drei Fragen abschließend, obwohl eine davon nur der Vertragspartner beantworten kann.
Häufige Verwechslungen
Gemeinfrei und vertraglich erlaubt sind zwei verschiedene Dinge. Die Nutzungsbedingungen des Werkzeugs binden die Behörde auch dann, wenn am Ergebnis kein Urheberrecht besteht.
Ein Kennzeichnungshinweis ersetzt keine Prüfung. „Mit KI erstellt“ unter dem Bild sagt der Öffentlichkeit etwas über die Herkunft und ändert nichts daran, ob das Bild überhaupt gezeigt werden darf.
Diskussion & Erfahrungsaustausch
Wie nutzen Sie KI in Ihrer Behörde zu diesem Thema? Teilen Sie Erfahrungen, stellen Sie Fragen, anonym oder mit E-Mail. Kommentare liegen auf eigenen Servern (DSGVO-konform).