Zeitschriftenartikel
Prompt-Injections – Ihr LLM wird zweckentfremdet und verkündet plötzlich Wahlsieger?
Vorschaubild nicht verfügbar
Volltext URI
Dokumententyp
Text/Journal Article
Dateien
Zusatzinformation
Datum
2024
Autor:innen
Zeitschriftentitel
ISSN der Zeitschrift
Bandtitel
Verlag
Gesellschaft für Informatik e.V.
Zusammenfassung
Stellen Sie sich vor, jemand missbraucht das LLM Ihrer HR-Anwendung als Propagandamaschine für seine eigenen Zwecke, wobei Ihre Ressourcen genutzt werden und Sie als Betreiber*in die Kosten dafür tragen müssen. Was ist passiert? Hier könnte ein Fall von Prompt-Injections vorliegen. Im Folgenden werden diese näher betrachtet und Möglichkeiten aufgezeigt, wie Sie Ihre digitalen LLM-Helfer davor schützen könnten. Was sind Prompt-Injections und warum sind sie so gefährlich?