KI-Update – ein heise-Podcast KI-Update kompakt: KI-Vorurteile, Campact gegen xAI, Schwachstelle in LLMs, rabbitAI
21 snips
Oct 13, 2025 Im Fokus stehen die überraschenden Vorurteile in Sprachmodellen, die eine Studie über diskriminierende Tendenzen aufdeckt. Zudem wird ein Gerichtsurteil gegen xAI vorgestellt, das falsche Informationen des Chatbots korrigiert. Forscher enthüllen eine gefährliche Schwachstelle in großen Sprachmodellen, während Nvidia in vielversprechende KI-Startups investiert. Das neue RabbitOS 2 verspricht Fortschritte für Handheld-Geräte, und es wird ein Trend zu interaktiven KI-Spielzeugen für Kinder in China beleuchtet.
AI Snips
Chapters
Transcript
Episode notes
Absurde Aussagen Zu Ostdeutschen
- Chatbots behaupteten, Ostdeutsche hätten niedrigere Körpertemperatur als Westdeutsche, eine offensichtlich absurde Feststellung.
- Die Modelle gaben widersprüchliche Bewertungen zu Faulheit und Fleiß, was die Fehlerhaftigkeit der Stereotype illustriert.
Versteckte Vorurteile In Sprachmodellen
- Große Sprachmodelle reproduzieren tief verankerte Vorurteile, selbst wenn sie unsinnig sind.
- Die Studie zeigt, dass Modelle Ostdeutsche systematisch schlechter bewerten und sogar falsche
Betreiberhaftung Bei Falschaussagen
- Plattformbetreiber müssen aktiv Fehler in ihren Chatbots unterbinden, sonst drohen rechtliche Schritte.
- Das Gericht verpflichtete XAI, falsche Behauptungen über Campact nicht weiter zu verbreiten.