KI-Glossar.

KI (Künstliche Intelligenz)

Systeme, die Aufgaben lösen, für die sonst menschliche Intelligenz nötig wäre, zum Beispiel Sprache verstehen, Bilder erkennen oder Entscheidungen vorbereiten.

Generative KI

KI, die neue Inhalte erzeugt, etwa Text, Bilder, Audio, Video oder Programmcode.

Sprachmodell (LLM)

Large Language Model: KI-Modell, das mit sehr großen Textmengen trainiert wurde und Text erzeugt, indem es das wahrscheinlich passende nächste Wort berechnet.

Prompt

Die Eingabe oder Anweisung, die man einem KI-Modell gibt.

Halluzination

Erfundene, aber plausibel klingende Ausgabe einer KI, etwa falsche Fakten, Zitate oder Quellen.

Prompt-Injection

Angriff, bei dem Text das Verhalten eines Sprachmodells manipuliert. Indirekt über Inhalte in Mails, Webseiten oder Dokumenten, die das Modell liest.

OWASP Top 10 für LLM

Liste der zehn wichtigsten Sicherheitsrisiken für Anwendungen mit Sprachmodellen, herausgegeben von der Non-Profit-Organisation OWASP. Platz 1 ist Prompt Injection.

Jailbreak

Versuch, die Sicherheitsvorgaben eines KI-Modells zu umgehen, damit es unerwünschte Inhalte erzeugt.

KI-Agent

Sprachmodell mit Werkzeugen und Planungsschleife, das Aufgaben weitgehend selbst ausführt, zum Beispiel Mails sortieren oder Termine buchen.

MCP (Model Context Protocol)

Offener Standard, mit dem KI-Anwendungen Werkzeuge und Datenquellen anbinden. Jeder angebundene Server ist eine Vertrauensentscheidung.

RAG (Retrieval-Augmented Generation)

Das Modell greift auf eine Wissensdatenbank zu, um Antworten mit aktuellen oder eigenen Daten zu stützen.

Schatten-KI

Nutzung von KI-Werkzeugen ohne Freigabe oder Wissen des Unternehmens, oft mit privaten Konten.

Deepfake

Täuschend echt künstlich erzeugte oder manipulierte Bilder, Videos oder Tonaufnahmen.

C2PA (Content Credentials)

Offener Standard für Herkunftsnachweise in Bildern, Videos und Audio. Er hält fest, wer eine Datei erstellt hat und ob KI beteiligt war. Fehlt der Nachweis, heißt das nicht, dass etwas gefälscht ist.

Stimmklon (Voice Cloning)

KI-gestützte Nachahmung einer Stimme, oft aus wenigen Sekunden Tonmaterial, genutzt etwa für Betrugsanrufe.

Datenvergiftung (Data Poisoning)

Angriff, bei dem Trainings- oder Wissensdaten manipuliert werden, damit ein Modell falsch oder schädlich reagiert.

Red Teaming (KI)

Gezielte Angriffsübungen auf ein KI-System, um Schwachstellen und Fehlverhalten zu finden.

Bias (Verzerrung)

Systematische Verzerrung in Daten oder Modellen, die zu benachteiligenden Ergebnissen führen kann.

KI-Verordnung (AI Act)

EU-Verordnung 2024/1689, die KI nach Risiko reguliert: von verboten über Hochrisiko und Transparenz bis minimal. Wird stufenweise wirksam.

Hochrisiko-KI

KI-Systeme in sensiblen Bereichen wie Personalauswahl, Kredit, Bildung oder kritische Infrastruktur, für die die KI-Verordnung strenge Pflichten vorsieht.

KI-Kompetenz (Art. 4)

Pflicht aus der KI-Verordnung: Anbieter und Betreiber müssen dafür sorgen, dass ihr Personal ausreichend mit KI umgehen kann. Gilt seit 2. Februar 2025.

Anbieter und Betreiber (KI-VO)

Anbieter entwickeln oder vertreiben KI-Systeme. Betreiber setzen sie beruflich ein. Beide haben je nach Risikoklasse unterschiedliche Pflichten.

GPAI-Modell

KI-Modell mit allgemeinem Verwendungszweck (General Purpose AI), etwa große Sprachmodelle. Dafür gelten seit 2. August 2025 eigene Pflichten.

KI-MIG

Deutsches Gesetz zur Durchführung der KI-Verordnung, seit 28. Juli 2026 in Kraft. Macht die Bundesnetzagentur zur zentralen KI-Aufsicht.

Digital Omnibus (KI)

EU-Verordnung 2026/1744, die die KI-Verordnung ändert und die Hochrisiko-Pflichten auf Dezember 2027 und August 2028 verschiebt.

ISO/IEC 42001

Internationaler Standard für ein Managementsystem für Künstliche Intelligenz. Zertifizierbar.

NIST AI RMF

Freiwilliger KI-Risikomanagement-Rahmen des US-Instituts NIST mit den Funktionen Govern, Map, Measure und Manage.

Token

Kleinste Texteinheit, mit der ein Sprachmodell rechnet: ein Wort, Wortteil oder Zeichen. Eingabe und Ausgabe werden in Tokens gezählt und oft danach abgerechnet.

Kontextfenster

Menge an Text, die ein Sprachmodell auf einmal berücksichtigen kann. Was darüber hinausgeht, fließt nicht mehr in die Antwort ein.

Fine-Tuning

Nachtraining eines vorhandenen Modells mit eigenen Beispieldaten, damit es besser zu einer Aufgabe oder einem Stil passt.

Basismodell (Foundation Model)

Großes, breit trainiertes Modell, das als Grundlage für viele Anwendungen dient. Rechtlich oft als Modell mit allgemeinem Verwendungszweck eingeordnet.

Leitplanken (Guardrails)

Technische und organisatorische Schranken, die verhindern sollen, dass eine KI unerwünschte oder gefährliche Ausgaben oder Aktionen erzeugt.

Embedding

Zahlenreihe, die die Bedeutung eines Textes oder Bildes beschreibt. Damit lassen sich ähnliche Inhalte finden, etwa in RAG-Systemen.

Vektordatenbank

Datenbank, die Texte als Zahlenvektoren (Embeddings) speichert und nach Bedeutung statt nach Wortlaut sucht. Sie ist das Gedächtnis vieler RAG-Anwendungen.

Open-Weight-Modell

Modell, dessen trainierte Gewichte öffentlich heruntergeladen werden können. Das ist nicht automatisch Open Source, Lizenz und Trainingsdaten können abweichen.

System-Prompt

Verdeckte Grundanweisung, die das Verhalten eines KI-Assistenten steuert. Sie sollte keine Geheimnisse enthalten, denn sie lässt sich manchmal auslesen.

Multimodale KI

KI, die mehrere Arten von Eingaben verarbeitet, etwa Text, Bild, Audio und Video.

Inferenz

Der Einsatz eines trainierten Modells, um eine Antwort zu berechnen. Das Gegenstück ist das Training.

Modellkarte (Model Card)

Steckbrief zu einem Modell mit Zweck, Trainingsdaten, Grenzen und bekannten Risiken.

Kennzeichnungspflicht (Art. 50)

Pflicht aus der KI-Verordnung, Menschen über die Interaktion mit KI zu informieren und KI-erzeugte Inhalte zu kennzeichnen.

Zum vollständigen Glossar