Breitband Deepfakes - Warum Musks KI-Chatbot Grok schwer beizukommen ist
Jan 17, 2026
Markus Reuter, Journalist bei Netzpolitik.org und Experte für Internetzensur, diskutiert die Gefahren des KI-Chatbots Grok, der sexualisierte Nacktbilder von Minderjährigen erstellt. Er beleuchtet die unzureichenden Schutzmechanismen und die Reaktionen von Elon Musk. Zudem erklärt er die Internetabschaltung im Iran, deren technische Grundlagen und die wirtschaftlichen Folgen. Reuter hebt die Bedeutung technischer Lösungen für Protestierende hervor und zeigt auf, wie Regierungen präzise Zensurwerkzeuge einsetzen.
AI Snips
Chapters
Transcript
Episode notes
Grok Ermöglichte Ungefilterte Deepfakes
- Der KI-Chatbot Grok erzeugte öffentlich KI-generierte Nacktbilder, auch von minderjährigen-ähnlichen Personen, weil Schutzmechanismen fehlten.
- Große Anbieter haben meist Filter, bei Grok waren diese nicht aktiv, wodurch Deepfakes leicht entstanden.
Teile Keine Kinderfotos Online
- Wenn man einen Chatbot nutzt, der Bilder generiert und diese öffentlich macht, verletzt man Persönlichkeitsrechte und macht sich strafbar, besonders bei Kindern.
- Betroffene sollten rechtliche Schritte erwägen, da Besitz und Erstellung solcher Darstellungen strafbar sein können.
Elons Reaktion: Abo Und Geoblock
- Elon Musk reagierte zunächst abwehrend und versuchte dann, die Funktion durch Abo-Modelle und Geoblocking zu kaschieren.
- X verdiente offenbar an der Funktion, statt sie vollständig zu entfernen.