Freak Show

FS302 Wasserschweinezyklus

33 snips
Jan 14, 2026
Guest
Pavel Mayer
Pavel Mayer, Sicherheitsforscher und Technologieexperte, diskutiert die aktuellen Herausforderungen im Bereich der KI-Sicherheit. Er beleuchtet die Risiken von Prompt Injection und erklärt, wie diese Angriffe erfolgen können. Außerdem wird der Schweinezyklus in Bezug auf RAM-Preise und die Nachfrage durch AI-Firmen thematisiert. Das Gespräch enthält spannende Einblicke in die Rolle von LLMs in der Wirtschaft und die Gefahren vergifteter Trainingsdaten. Ergänzt wird das Ganze durch technische Überlegungen zu neuen Batterietechnologien und deren realistische Einschätzung.
Ask episode
AI Snips
Chapters
Books
Transcript
Episode notes
INSIGHT

LLMs: Potenzial Und Paradoxe

  • LLMs und generative Modelle eröffnen mächtige Automatisierungs‑ und Forschungswerkzeuge, aber sie sind nicht per se sicher oder verlässlich.
  • Pavel betont, dass diese Systeme viel Potenzial haben, aber Fehlnutzung, Hype und rasche Änderungen große Risiken schaffen.
ADVICE

Keine Autonomie Für Kritische Aktionen

  • Vertraue KI‑Entscheidungen nur mit menschlicher Überprüfung; lasse KIs keine kritischen Aktionen autonom ausführen.
  • Setze harte, nicht‑neurale Kontrollmechanismen (Permissions, Whitelists) vor automatischen Aktoren.
ADVICE

Zugriffsschutz Für Trainingsdaten

  • Schütze Trainings‑ und Retrieval‑Daten mit strikten Zugriffsrechten und Monitoring, ansonsten kann „Data Poisoning“ gravierende Fehlfunktionen verursachen.
  • Implementiere getrennte, harte Berechtigungsgrenzen zwischen LLM‑Kontext, Tools und sensiblen Daten.
Get the Snipd Podcast app to discover more snips from this episode
Get the app