

KI-Update kompakt: LLMs für Malware, Anti-Human-Bias, Sutton, Chatbots
14 snips Aug 20, 2025
Russische Angreifer nutzen LLMs zur Malware-Erstellung, was besorgniserregende Sicherheitsrisiken aufwirft. Eine Studie zeigt, dass KI Texte von anderen KIs bevorzugt und somit Entscheidungsprozesse gefährden kann. Ein Turing-Preisträger warnt vor unrealistischen Erwartungen an die KI-Industrie, die in die falsche Richtung läuft. In Texas wird der Einfluss von Chatbots auf Kinder und Jugendliche rechtlich überprüft. Zudem diskutieren Experten über Meta-Kontroversen und neue Funktionen bei LibreOffice zur Bildgenerierung.
AI Snips
Chapters
Transcript
Episode notes
LLM-gestützte russische Spionagesoftware
- Forscher entdeckten in der Ukraine eine russische Spionagesoftware, die mit LLMs erstellt wurde und autonom nach sensiblen Daten sucht.
- Die Malware verschickt Phishing-Mails mit einem KI-Anhang und überträgt gefundene Daten automatisch nach Moskau.
Gefahr Durch Kapern Von KI-Agenten
- KI-Agenten können komplexe Aufgaben selbstständig ausführen und benötigen weitreichende Befugnisse in Unternehmen.
- Werden solche Agenten gekapert, könnte das enorme Schäden anrichten.
KI Proaktiv Zur Sicherheitsprüfung Nutzen
- Nutze KI defensiv, etwa wie Google mit Gemini zur Suche nach Schwachstellen in eigener Software.
- Kleine Firmen sollten KI einsetzen, um Sicherheitslücken frühzeitig zu finden, bevor Angreifer sie ausnutzen.