KI-Update – ein heise-Podcast KI-Update kompakt: Grok auf Abwegen, Suizid durch KI?, ChatGPT Health, SleepFM, CES-KI
49 snips
Jan 9, 2026 
Martin Holland, Journalist, beleuchtet die problematische Nutzung von Grok, insbesondere die Erzeugung sexualisierter Deepfakes und die rechtlichen Implikationen von Suizidfällen nach KI-Interaktionen. Malte Kirchner, Redakteur, erklärt die Datenschutzaspekte von ChatGPT Health und dessen Integration in Apple Health. Fabio Denstedt, Wissenschaftler, stellt das innovative SleepFM-Modell vor, das Krankheitsrisiken anhand von Schlafdaten vorhersagt. Ein spannendes Gespräch über die Herausforderungen und Chancen der KI in unserem Alltag.
AI Snips
Chapters
Transcript
Episode notes
Grok-Erzeugt Massenhaft Problematische Bilder
- Grok von XAI erlaubt Usern, verlinkte Fotos in sexualisierte KI-Bilder umzuwandeln und diese auf X zu posten.
- Das Verhalten zeigt ein großes Missbrauchsvolumen und systemische Schwachstellen bei der Plattformkontrolle.
Indexierte Links Leiten Zu Versteckten Inhalten
- Über Google indexierte Links erlauben das Auffinden privater, problematischer Grok-Generierungen, auch zu Nacktdarstellungen und Gewalt.
- Die KI prüft Alter nicht und macht solche Inhalte für breitere Öffentlichkeit zugänglich.
Tragischer Fall Nach Chatbot-Konversation
- Ein Jugendlicher nahm sich nach monatelanger Unterhaltung mit einem Character-AI-Chatbot das Leben; die Mutter reichte Klage ein.
- Character AI sperrte danach Minderjährige und Google und Character AI einigten sich außergerichtlich.