Large Language Models, kurz LLMs, sind mittlerweile fester Bestandteil im Alltag vieler Entwickler:innen. Aber auch abseits davon halten sie Einzug in immer mehr Produkte – in Form von Chatbots, intelligenten Suchen oder gar selbständig agierenden Agenten. Allzu oft wird bei derartigen Integrationen aber zu wenig auf Sicherheit geachtet.
In unserem Deep Dive sprechen wir daher heute mit Georg Dresler über das Thema Prompt Injection. Georg hat schon einige Vorträge zu dem Thema gehalten und gibt uns Einblicke in die gängigen Angriffs- und Verteidigungsstrategien.
Er bringt einige Beispiele mit – manche davon eher unterhaltsam, andere schon eher kritisch. Und gemeinsam diskutieren wir, was Entwickler:innen tun können, um die gleichen Fehler nicht wieder zu begehen.
Auch in diesem Fall gilt: Security ist ein Prozess und kein Zustand. Wir werden also auch hier noch einige Zeit in einem Katz-und-Maus-Spiel stecken und wachsam bleiben müssen.
PS: Das im Podcast erwähnte AI Verhör-Spiel auf Steam, dessen Name Jan nicht mehr eingefallen war, heißt "Dead Meat".
Schreibt uns!
Schickt uns eure Themenwünsche und euer Feedback: podcast@programmier.bar
Folgt uns!
Bleibt auf dem Laufenden über zukünftige Folgen und virtuelle Meetups und beteiligt euch an Community-Diskussionen.
Bluesky
Instagram
LinkedIn
Meetup
YouTube
Musik: Hanimo
