

Spezialfolge 173: Short Dive - Prompt Injection in 5 Minuten
4 snips Feb 28, 2025
In dieser Spezialfolge wird Prompt-Injection erläutert, eine gefährliche Methode, die schädlichen Code in Anwendungen schleust. Die Diskussion beleuchtet zwei Hauptangriffe: die Manipulation des System-Prompts und den unbefugten Zugriff auf sensible Informationen. Außerdem wird die Kunst der Prompt Injection in Sprachmodellen thematisiert. Es werden Möglichkeiten vorgestellt, wie sprachliche Anpassungen wichtige Schutzmechanismen umgehen können. Perfekt für alle, die mehr über App- und Websicherheit erfahren möchten!
AI Snips
Chapters
Transcript
Episode notes
Prompt Injection verstehen
- Prompt Injection ähnelt SQL-Injection oder JavaScript-Injection.
- Angreifer versuchen, unerlaubt Code auszuführen.
Prompt Injection bei LLMs
- Angreifer schleusen unerlaubte Befehle in Prompts ein.
- So können Bots zu ungewollten Aktionen gebracht werden.
Komponenten eines Prompts
- Prompts setzen sich aus System-Prompt, User-Prompt und Kontext zusammen.
- Angreifer versuchen, System-Prompts zu überschreiben oder Kontextdaten zu erlangen.