Ö1 matrix Warum wir Algorithmen mehr glauben als Menschen
Jun 27, 2025
Matthias Spielkamp, Geschäftsführer von Algorithm Watch, thematisiert die gesellschaftlichen Auswirkungen automatisierter Entscheidungen, wie etwa bei Kreditvergaben und Jobinterviews. Richard Brehm bringt Einblicke in Andrey Mirs Theorien zur post-journalistischen Ära und die Herausforderungen der Wahrheit im digitalen Zeitalter. Diskutiert werden Proteste gegen algorithmische Notenvergabe, die Frage der Fairness in Bildung und die Risiken diskriminierender Praktiken, sowie die Verbreitung von Fake News und deren Einfluss auf unser Verständnis von Wahrheit.
AI Snips
Chapters
Books
Transcript
Episode notes
UK-Notenalgorithmus löst Proteste aus
- Ein Algorithmus berechnete während der Corona-Pandemie in UK Abschlussnoten basierend auf Schulstatistiken. 40% der Noten wurden herabgesetzt, besonders Schüler aus weniger privilegierten Schulen betroffen.\n- Nach Protesten akzeptierte die Regierung wieder Lehrkräfte-Prognosen als Noten, um Gerechtigkeit wiederherzustellen.
Kindergeld-Skandal in den Niederlanden
- In den Niederlanden führte ein Algorithmus zur fälschlichen Betrugsvorwurf bei Tausenden Sozialhilfeempfängern. Besonders Familien mit Migrationshintergrund litten unter Existenzverlusten.\n- Der Skandal zwang den Premierminister zum Rücktritt und zeigte die Gefahren algorithmischer Diskriminierung.
Menschen überschätzen Algorithmus-Objektivität
- Menschen neigen dazu, Entscheidungen von Maschinen als neutral und objektiv zu sehen, obwohl Algorithmen gesellschaftliche Verzerrungen verstärken.\n- Der Unterschied zwischen Wahrscheinlichkeit und Gewissheit verschwimmt durch KI, was die Wahrnehmung von Wahrheit erschwert.