Wissenschaft im Brennpunkt Intransparente KI - In den Fängen der Algorithmen
Oct 6, 2024
Die Macht von Algorithmen im Justizsystem wird beleuchtet, wo sie Entscheidungen über Kautionen und Verurteilungen treffen. Die Gefahren intransparenter Systeme und ihre Auswirkungen auf Einzelschicksale, wie das von Glenn Rodriguez, werden kritisch hinterfragt. Ein aktueller Gesetzentwurf zur Erhöhung der Transparenz forensischer Algorithmen und die Rolle der KI in der Gesellschaft stehen im Fokus. Zudem wird die Manipulation persönlicher Daten und die ethischen Herausforderungen junger Nutzer thematisiert.
AI Snips
Chapters
Transcript
Episode notes
COMPASS im US-Justizsystem
- COMPASS, ein algorithmusgesteuertes System in den USA, versprach Effizienz im Justizsystem.
- Es berechnete das Rückfallrisiko von Straftätern und beeinflusste Entscheidungen über Inhaftierung und Hilfen.
Vorurteile in COMPASS
- Wissenschaftler und Journalisten stellten die Objektivität von COMPASS infrage.
- Die Software reproduzierte bestehende Vorurteile wie Rassismus und Sexismus.
SYRI und die Folgen
- In den Niederlanden führte das KI-System SYRI zu fehlerhaften Rückzahlungsforderungen im Sozialsystem.
- Tausende Familien litten unter den Folgen, es gab sogar Selbstmorde.