Glossar

Algorithmus

Ein Algorithmus ist eine Schritt-für-Schritt-Anleitung für einen Computer. Er sagt dem Computer, was er in welcher Reihenfolge tun soll.

Anbieter

Der Anbieter hat ein KI-System entwickelt oder entwickeln lassen und bringt es unter eigenem Namen auf den Markt oder in Betrieb. Ein Beispiel ist die Firma, die einen Chatbot herstellt.

Betreiber

Der Betreiber setzt ein KI-System in eigener Verantwortung ein. Ihre Behörde ist Betreiber, wenn sie ein KI-Werkzeug für ihre Arbeit nutzt.

Bias

Bias heißt auf Deutsch Verzerrung. Die KI bevorzugt oder benachteiligt dann bestimmte Gruppen, weil sie das aus ihren Trainingsdaten so gelernt hat.

Chatbot

Ein Chatbot ist ein Programm, mit dem Sie schreiben wie mit einem Menschen. Sie stellen eine Frage, und es antwortet in ganzen Sätzen.

Datenschutz-Folgenabschätzung (DSFA)

Das ist eine Prüfung vor dem Start eines Verfahrens. Sie fragt, wie gefährlich die Verarbeitung für die Rechte der betroffenen Menschen sein kann.

Deepfake

Ein Deepfake ist eine gefälschte Aufnahme, die mit KI gemacht wurde. Das kann ein Bild, ein Video oder eine Stimme sein, die echt aussieht oder klingt.

DSGVO

Das ist die Datenschutz-Grundverordnung der EU. Sie legt fest, wie Behörden und Firmen mit personenbezogenen Daten umgehen dürfen.

Few-Shot

Few-Shot heißt auf Deutsch „mit wenigen Beispielen“. Sie zeigen der KI ein bis drei Beispiele für die gewünschte Antwort und bitten sie dann, den Fall genauso zu bearbeiten.

Generative KI

Generative KI erzeugt neue Inhalte, zum Beispiel Texte, Bilder oder Programmcode. Sie arbeitet dabei mit Mustern, die sie aus vielen Beispielen gelernt hat.

Halluzination

Von einer Halluzination spricht man, wenn die KI etwas erfindet und es als Tatsache darstellt. Das kann ein Paragraf sein, den es nicht gibt. Der erfundene Teil sieht genauso aus wie der richtige.

Hochrisiko-KI-System

Das ist ein KI-System, das stark in das Leben von Menschen eingreifen kann, zum Beispiel bei Sozialleistungen oder bei der Auswahl von Bewerbungen. Dafür gelten strenge Regeln, etwa zur Dokumentation und zur Aufsicht durch Menschen.

KI-Kompetenz

KI-Kompetenz heißt, dass Sie KI mit Sachverstand einsetzen können. Sie kennen die Chancen und die Risiken und wissen, welche Schäden KI anrichten kann. Ihre Behörde ergreift Maßnahmen, damit Sie diese Kompetenz entwickeln können.

KI-Verordnung

Das ist das Gesetz der EU für KI, auf Englisch „AI Act“. Es teilt KI nach Risiko in Gruppen ein und legt für jede Gruppe Regeln fest.

Kontext

Der Kontext ist der Text, den die KI in einem Gespräch vor sich hat. Dazu gehören Ihre Frage, frühere Antworten und Dokumente, die Sie hinzugefügt haben.

LLM (großes Sprachmodell)

Ein LLM ist das Programm hinter einem Chatbot. Es hat aus sehr vielen Texten gelernt, welche Wörter zusammenpassen, und kann deshalb Texte schreiben.

Maschinelles Lernen

Beim maschinellen Lernen lernt ein Computerprogramm aus Beispielen. Niemand schreibt ihm jede Regel einzeln vor.

Menschliche Aufsicht

Menschliche Aufsicht heißt, dass ein Mensch die Arbeit der KI prüft. Er kann die Ergebnisse ändern oder das System anhalten.

Personenbezogene Daten

Das sind alle Angaben, mit denen man eine Person erkennen kann. Dazu gehören Name, Adresse, Geburtsdatum und Aktenzeichen.

Phishing

Phishing sind gefälschte Mails oder Nachrichten, die Sie zu etwas verleiten sollen. Sie sollen zum Beispiel einen Anhang öffnen oder ein Passwort eingeben.

Prompt

Ein Prompt ist Ihre Eingabe an die KI. Damit sagen Sie ihr, was sie tun soll.

Prompt-Injection

Bei einer Prompt-Injection steckt eine versteckte Anweisung in einem Dokument, einer Mail oder einer Webseite. Die KI liest sie und folgt ihr, obwohl sie nicht von Ihnen kommt.

Pseudonymisierung

Bei der Pseudonymisierung ersetzen Sie Namen durch eine Kennung, zum Beispiel „ID-4821“. Die Liste, wer dahintersteht, bewahren Sie getrennt auf. Die Daten bleiben personenbezogen.

Schatten-KI

Schatten-KI sind KI-Werkzeuge, die Beschäftigte im Dienst nutzen, ohne dass die Behörde sie erlaubt hat. Ein Beispiel ist ein privates Konto bei einem Chatbot.

System-Prompt

Der System-Prompt sind Vorgaben im Hintergrund, die der Betreiber der KI mitgibt. Sie sehen diese Vorgaben normalerweise nicht.

Token

Ein Token ist ein Stück Text, in das die KI Wörter zerlegt. Das kann ein ganzes Wort oder ein Wortteil sein. Die Zahl der Tokens begrenzt, wie viel Text die KI auf einmal verarbeiten kann.

Trainingsdaten

Trainingsdaten sind die Texte, Bilder und Zahlen, aus denen eine KI gelernt hat. Stehen Vorurteile in den Daten, übernimmt die KI sie.

Transparenzpflicht

Die Transparenzpflicht verlangt, dass Menschen erfahren, wenn sie mit einer KI zu tun haben. Das gilt zum Beispiel für Chatbots und für gefälschte Bilder.

Urheberrecht

Das Urheberrecht schützt Werke wie Texte, Bilder und Musik. Wer ein Werk geschaffen hat, bestimmt, wie andere es nutzen dürfen.

Verschlusssache

Eine Verschlusssache ist ein Dokument, das besonders geschützt werden muss. Es gibt vier Stufen. Die niedrigste heißt VS-NfD, das bedeutet „Nur für den Dienstgebrauch“.

Die Rechtsbegriffe sind hier vereinfacht. Was genau gilt, steht in den Modulen und im Gesetz. Fehlt Ihnen ein Begriff, schreiben Sie uns über die Diskussion unter einem Modul.