programmier.bar – der Podcast für App- und Webentwicklung

Deep Dive 173 – Prompt Injection mit Georg Dresler

9 snips
Feb 28, 2025
Georg Dresler, ein Experte für Prompt Injection und Sicherheit bei LLMs, diskutiert die Risiken und Chancen der Integration von KI in die Programmierung. Er beleuchtet Sicherheitsanfälligkeiten und kreative Umgehungsstrategien, vor allem im Zusammenhang mit Chatbots. Die Verantwortung von Entwicklern und Plattformanbietern wird thematisiert, während Dresler unterhaltsame und kritische Beispiele präsentiert. Zudem wird diskutiert, wie die Individualisierung von KI-Systemen sicher gestaltet werden kann.
Ask episode
AI Snips
Chapters
Transcript
Episode notes
ANECDOTE

Pokémon-Maskottchen

  • Jan wollte ein Podcast-Spirit-Animal als Pokémon generieren lassen.
  • Das KI-Tool verweigerte die Pokémon-Generierung, erzeugte aber ein Monster.
ANECDOTE

Prompt Engineering vs. Injection

  • Jan umgeht die Pokémon-Verweigerung, indem er ein Monster bestellt.
  • Georg bemerkt, dass bewusste Regelumgehung auch Prompt Injection sein kann.
ANECDOTE

Prompt Injection im Lebenslauf

  • Georgs ehemaliger Kollege schrieb Prompt Injections ins LinkedIn-Profil.
  • HR-Bots antworteten darauf automatisch.
Get the Snipd Podcast app to discover more snips from this episode
Get the app