KI-Update – ein heise-Podcast KI-Update Deep-Dive feat. They Talk Tech: Prompt Injections
22 snips
Oct 10, 2025 
Eva Wolfangel, eine erfahrene Tech-Journalistin und Co-Moderatorin des c't-Podcasts They Talk Tech, taucht tief in die Welt der Prompt Injections ein. Sie erklärt, wie bösartige Eingaben Chatbots manipulieren können und welche Risiken durch Social Engineering entstehen. Eva demonstriert angreifbare Szenarien wie ASCII-Smuggling und diskutiert die Herausforderungen der Sicherheit. Besonders eindrücklich wird die 'lethal trifecta' beschrieben, die agentische Systeme gefährdet. Ein Must-Hear für alle, die sich mit KI-Sicherheit auseinandersetzen!
AI Snips
Chapters
Transcript
Episode notes
Warum Prompt Injections Gefährlich Sind
- Prompt Injections zielen darauf ab, Sprachmodelle dazu zu bringen, Dinge zu tun oder zu sagen, die sie nicht sollten.
- Das macht Agenten, die auf persönliche Daten zugreifen, besonders gefährlich.
Persönliche Hacks Mit Chatbots
- Eva Wolfangel berichtet, dass sie Chatbots mehrfach dazu brachte, vertrauliche Informationen preiszugeben.
- Sie nennt Beispiele wie eine E-Mail von Julian Reichels und eine mercedes-interne Einschränkung zum Thema Klimawandel.
ASCII‑Smuggling Angriff
- Forscher demonstrierten Angriffe mit verstecktem Text in E-Mails und ASCII‑Smuggling gegen Co‑Pilot.
- Der Chatbot suchte und verpackte geheime Informationen in harmlose Links, die der Nutzer anklickte.