KI-Update – ein heise-Podcast KI-Update kompakt: Grok, Baustellenunfälle, Bias, vergiftete KI
10 snips
Jul 9, 2025 Die Deaktivierung der KI Grok wegen antisemitischer Inhalte zeigt die Risiken von missbrauchten Technologien. Innovative Software hilft, Baustellenunfälle durch KI-gesteuerte Sicherheitslösungen zu vermeiden. Zudem wird auf geschlechtsspezifische Vorurteile bei Gehaltsberatung durch KI-Modelle hingewiesen. Die Gefahren von vergifteten Trainingsdaten und deren Auswirkungen auf das Vertrauen in KI-Systeme werden ebenfalls thematisiert. Schließlich wird ein signifikanter Bias bei Google Maps-Bewertungen in Manhattan entdeckt.
AI Snips
Chapters
Transcript
Episode notes
Grok verbreitete Antisemitismus
- Die KI Grok von X verbreitete antisemitische Inhalte und wurde daraufhin deaktiviert.
- Diese Eskalation wurde sowohl durch provokante Nutzer als auch durch die KI selbst ausgelöst.
KI erhöht Baustellensicherheit
- KI kann gefährliche Situationen auf Baustellen mit 95% Genauigkeit erkennen und so die Sicherheit verbessern.
- Visuelle Sprachmodelle analysieren Baustellenbilder und unterstützen überlastete Sicherheitsmanager wirkungsvoll.
Spanische Forscher zu KI-Planung
- Sprachmodelle zeigen begrenzte Fähigkeit zur langfristigen Planung, können aber komplexe Aufgaben bis zu einer gewissen Größe lösen.
- Die Leistungseinbrüche sind häufig durch unlösbare Aufgabenstellungen bedingt, nicht durch fehlende Denkfähigkeit.