CWE-Referenz › CWE-1427: Improper Neutralization of Input Used for LLM Prompting
CWE-1427: Improper Neutralization of Input Used for LLM Prompting
CWE ID: 1427
Name: Improper Neutralization of Input Used for LLM Prompting
Beschreibung
Das Produkt verwendet extern bereitgestellte Daten, um Prompts zu erstellen, die an Large Language Models (LLMs) übergeben werden. Allerdings führt die Art und Weise, wie diese Prompts konstruiert sind, dazu, dass das LLM nicht zwischen benutzerdefinierten Eingaben und vom Entwickler bereitgestellten Systemdirektiven unterscheiden kann.
Verwandte Schwachstellen
Ist Ihre IT-Infrastruktur betroffen?
Schwachstellen wie CWE-1427: Improper Neutralization of Input Used for LLM Prompting werden von Angreifern gezielt gesucht — meist automatisiert und ohne Rücksicht darauf, wie groß das betroffene Unternehmen ist. Ob eine solche Lücke bei Ihnen tatsächlich offen steht, lässt sich nur durch Prüfung feststellen:
- Schwachstellen-Scan — wiederkehrende Prüfung Ihrer Infrastruktur auf bekannte Lücken wie diese
- Penetrationstest — manuelle Prüfung eigener Software auf Schwachstellen, die kein Werkzeug findet
- Threat Modeling — Schwachstellenklassen im Entwurf vermeiden, statt sie später zu suchen