Wie greift man KI an, und wie schützt man sie?
KI-Sicherheit.
KI ist zugleich Werkzeug, Angriffsfläche und Waffe. Wer sie einsetzt, muss alle 3 Seiten kennen.
In 60 Sekunden
- KI ist Werkzeug, Angriffsfläche und Waffe zugleich.
- Die OWASP-Liste nennt die zehn wichtigsten Risiken für Sprachmodell-Anwendungen.
- Wirksam sind minimale Rechte, getrennte Anweisungen und Daten, Protokolle und Tests.
Rechtsstand: 5. November 2026
3 Seiten derselben Medaille.#
Angriffe auf KI-Systeme
Sprachmodelle und ihre Anwendungen lassen sich manipulieren, ausspähen oder vergiften. Neue Schwachstellen, die klassische Sicherheit nicht abdeckt.
Angriffe mit KI
Täter nutzen KI für überzeugende Phishing-Mails, Stimm- und Videoklone und die automatische Suche nach Schwachstellen.
Fehlgebrauch und Schatten-KI
Gut gemeinte Nutzung ohne Regeln: Vertrauliche Daten wandern in private Tools, Ergebnisse werden ungeprüft übernommen.
Die Angriffsfläche einer KI-Anwendung.#
6 Stellen, an denen es schiefgehen kann.
Die zehn größten Risiken (OWASP).#
Die Liste des OWASP GenAI Security Project für Anwendungen mit Sprachmodellen, Ausgabe 2025.
| Nr. | Risiko | Was passiert | Was hilft |
|---|---|---|---|
| LLM01 | Prompt-Injection | Fremder Text ändert das Verhalten des Modells, direkt oder versteckt in Dokumenten und Webseiten | Eingaben und Quellen trennen, Rechte minimieren, riskante Aktionen bestätigen lassen |
| LLM02 | Offenlegung vertraulicher Informationen | Das Modell gibt Personendaten, Geheimnisse oder fremde Daten preis | Daten klassifizieren, minimieren und Ausgaben filtern |
| LLM03 | Lieferkette | Manipulierte Modelle, Datensätze, Bibliotheken oder Plugins | Quellen prüfen, Versionen festschreiben, Komponenten inventarisieren |
| LLM04 | Daten- und Modellvergiftung | Manipulierte Trainings- oder Wissensdaten verändern das Verhalten | Datenherkunft prüfen, Daten validieren, Modelle testen |
| LLM05 | Unsichere Weiterverarbeitung der Ausgabe | Antworten werden ungeprüft als Code, Befehl oder Anfrage ausgeführt | Ausgaben wie Fremdeingaben behandeln und validieren |
| LLM06 | Zu weitgehende Befugnisse | Ein Agent darf mehr, als seine Aufgabe erfordert | Minimale Rechte, Freigaben, Limits und Protokolle |
| LLM07 | Offenlegung der Systemanweisung | Die versteckten Vorgaben der Anwendung werden herausgelockt | Keine Geheimnisse in Anweisungen, Schutz nicht auf Verschweigen stützen |
| LLM08 | Schwächen bei Vektoren und Einbettungen | Angriffe auf Wissensdatenbanken (RAG), etwa durch fremde Inhalte oder Rechteprobleme | Zugriffsrechte in der Wissensdatenbank erzwingen, Quellen prüfen |
| LLM09 | Fehlinformation | Falsche, erfundene oder irreführende Antworten werden geglaubt | Quellen anzeigen, Gegenprüfung, menschliche Kontrolle |
| LLM10 | Unbegrenzter Verbrauch | Massenanfragen oder Schleifen treiben Kosten und legen Dienste lahm | Limits, Budgets, Überwachung und Ratenbegrenzung |
Quelle: OWASP GenAI Security Project, Top 10 for LLM Applications 2025, eigenständig und vereinfacht zusammengefasst. Die Liste wird weiterentwickelt. Aktuelle Fassung unter genai.owasp.org.
Angriffe mit KI.#
Die Hürde für Betrug sinkt. Verfahren schlagen Augenschein.
KI-Phishing
Fehlerfreie, persönlich zugeschnittene Mails in jeder Sprache. Typische Rechtschreibfehler als Warnsignal fallen weg.
Stimm- und Videoklone
Wenige Sekunden Audio genügen oft, um eine Stimme nachzuahmen. Beliebt bei Chef-Betrug und Enkeltrick.
Desinformation
Gefälschte Bilder, Videos und Nachrichten verbreiten sich schnell und sind schwer zu widerlegen.
Automatisierte Angriffe
KI hilft, Schwachstellen schneller zu finden, Texte für Täuschungen zu erzeugen und Angriffe anzupassen.
Gegenmaßnahme: Verfahren
Rückruf unter bekannter Nummer, Codewort, Vier-Augen-Prinzip bei Zahlungen, MFA und Passkeys.
Gegenmaßnahme: Bewusstsein
Schulungen mit aktuellen Beispielen. Druck, Heimlichkeit und Eile sind Warnsignale, unabhängig von der Technik.
Schatten-KI.#
Wenn die Nutzung vor den Regeln da ist.
Schatten-KI entsteht, wenn Mitarbeitende KI-Werkzeuge ohne Freigabe nutzen, meist aus Pragmatismus: Das freigegebene Werkzeug fehlt oder ist unbequem. Das Risiko liegt weniger in der Absicht als im Kontrollverlust.
- Vertrauliche Daten landen in privaten Konten ohne Vertrag.
- Niemand weiß, welche KI wofür im Einsatz ist.
- Datenschutz, Urheberrecht und KI-Verordnung werden unbemerkt verletzt.
Was wirklich hilft
- Freigegebene Alternative anbieten, die mindestens so bequem ist.
- Klare Regeln mit der Datenampel statt allgemeiner Verbote.
- Schulung zu Nutzen und Risiken.
- Technische Leitplanken wie Datenabfluss-Schutz und Zugriffssteuerung.
- Ein offenes Klima: Wer Nutzung meldet, wird nicht bestraft.
Schutz in 6 Schichten.#
Governance und Inventar
Welche KI gibt es, wer ist verantwortlich, welche Risikoklasse gilt?
Zugriff und Identität
SSO, MFA und minimale Rechte für KI-Tools und Agenten.
Daten und Datenschutz
Klassifizierung, Datenampel und Schutz vor Abfluss.
Anwendungssicherheit
Eingaben und Ausgaben prüfen, Geheimnisse nicht in Anweisungen, Sandbox für Aktionen.
Lieferkette
Modelle, Bibliotheken, Plugins und Datenquellen prüfen und inventarisieren.
Überwachung und Tests
Protokolle, Missbrauchserkennung und regelmäßige Angriffstests (Red Teaming).
Check: KI-Sicherheit im Unternehmen.#
6 Fragen an deine KI-Landschaft.
Grobe Orientierung, kein Audit. Die Auswahl bleibt in deinem Browser.
Häufige Fragen.#
Lässt sich Prompt-Injection vollständig verhindern?
Nach heutigem Stand nicht zuverlässig. Deshalb gilt: Risiko begrenzen statt hoffen. Minimale Rechte, Trennung von Anweisungen und Daten, Bestätigung bei riskanten Aktionen und kein ungeprüftes Ausführen von Ausgaben.
Sind lokal betriebene Modelle sicherer?
Sie verhindern, dass Daten an einen Anbieter gehen, und geben mehr Kontrolle. Dafür liegen Betrieb, Updates und Lieferkette bei dir. Sicherheit entsteht durch Betrieb, nicht allein durch den Standort.
Kann ich Deepfakes erkennen?
Manchmal, aber zuverlässig nur mit Verfahren: Rückruf, Codewort, Gegenprüfung über einen zweiten Kanal. Verlass dich nie allein auf Augenschein oder Gehör.
Brauche ich eine eigene KI-Sicherheit neben der IT-Security?
Sie baut auf der IT-Security auf (Identitäten, Netz, Daten, Monitoring) und ergänzt sie um KI-spezifische Risiken. Beides gehört zusammen: IT-Security, Monitoring, NIS2.
KI sicher aufstellen?
Schreib mir, welches KI-Szenario du absichern möchtest, dann ergänzen wir die Inhalte.
Quellen und Weiterlesen
War diese Seite hilfreich?
Fehler gefunden? Gib mir kurz Bescheid.
Zitiervorschlag: Russo, K.: „KI-Sicherheit“. sicherheitsdenker.de/ki-sicherheit/, Stand 6. November 2026.