

Deep Dive 173 – Prompt Injection mit Georg Dresler
9 snips Feb 28, 2025
Georg Dresler, ein Experte für Prompt Injection und Sicherheit bei LLMs, diskutiert die Risiken und Chancen der Integration von KI in die Programmierung. Er beleuchtet Sicherheitsanfälligkeiten und kreative Umgehungsstrategien, vor allem im Zusammenhang mit Chatbots. Die Verantwortung von Entwicklern und Plattformanbietern wird thematisiert, während Dresler unterhaltsame und kritische Beispiele präsentiert. Zudem wird diskutiert, wie die Individualisierung von KI-Systemen sicher gestaltet werden kann.
AI Snips
Chapters
Transcript
Episode notes
Pokémon-Maskottchen
- Jan wollte ein Podcast-Spirit-Animal als Pokémon generieren lassen.
- Das KI-Tool verweigerte die Pokémon-Generierung, erzeugte aber ein Monster.
Prompt Engineering vs. Injection
- Jan umgeht die Pokémon-Verweigerung, indem er ein Monster bestellt.
- Georg bemerkt, dass bewusste Regelumgehung auch Prompt Injection sein kann.
Prompt Injection im Lebenslauf
- Georgs ehemaliger Kollege schrieb Prompt Injections ins LinkedIn-Profil.
- HR-Bots antworteten darauf automatisch.