KI-Update – ein heise-Podcast

KI-Update kompakt: LLMs für Malware, Anti-Human-Bias, Sutton, Chatbots

14 snips
Aug 20, 2025
Russische Angreifer nutzen LLMs zur Malware-Erstellung, was besorgniserregende Sicherheitsrisiken aufwirft. Eine Studie zeigt, dass KI Texte von anderen KIs bevorzugt und somit Entscheidungsprozesse gefährden kann. Ein Turing-Preisträger warnt vor unrealistischen Erwartungen an die KI-Industrie, die in die falsche Richtung läuft. In Texas wird der Einfluss von Chatbots auf Kinder und Jugendliche rechtlich überprüft. Zudem diskutieren Experten über Meta-Kontroversen und neue Funktionen bei LibreOffice zur Bildgenerierung.
Ask episode
AI Snips
Chapters
Transcript
Episode notes
ANECDOTE

LLM-gestützte russische Spionagesoftware

  • Forscher entdeckten in der Ukraine eine russische Spionagesoftware, die mit LLMs erstellt wurde und autonom nach sensiblen Daten sucht.
  • Die Malware verschickt Phishing-Mails mit einem KI-Anhang und überträgt gefundene Daten automatisch nach Moskau.
INSIGHT

Gefahr Durch Kapern Von KI-Agenten

  • KI-Agenten können komplexe Aufgaben selbstständig ausführen und benötigen weitreichende Befugnisse in Unternehmen.
  • Werden solche Agenten gekapert, könnte das enorme Schäden anrichten.
ADVICE

KI Proaktiv Zur Sicherheitsprüfung Nutzen

  • Nutze KI defensiv, etwa wie Google mit Gemini zur Suche nach Schwachstellen in eigener Software.
  • Kleine Firmen sollten KI einsetzen, um Sicherheitslücken frühzeitig zu finden, bevor Angreifer sie ausnutzen.
Get the Snipd Podcast app to discover more snips from this episode
Get the app