KI verstehen Explainable AI - Wenn KI-Systeme nachvollziehbare Entscheidungen treffen
12 snips
May 1, 2025 In dieser Folge wird die Notwendigkeit von erklärbarer Künstlicher Intelligenz diskutiert. Experten erläutern, wie komplexe Algorithmen in sensiblen Bereichen wie Medizin und Finanzen verständlicher gemacht werden können. Besonders spannend ist die Präsentation der App SkinDoc, die KI-Entscheidungen in der Hautdiagnose nachvollziehbar macht. Außerdem wird die Bedeutung der Erklärbarkeit bei großen Sprachmodellen beleuchtet und wie diese die Vertrauenswürdigkeit von KI-Systemen fördern kann.
AI Snips
Chapters
Transcript
Episode notes
Grundlagen von Explainable AI
- Explainable AI (XAI) zielt darauf ab, KI-Entscheidungen transparent und nachvollziehbar zu machen.
- Dabei sind Transparenz, Interpretierbarkeit, Fairness und Kausalität zentrale Prinzipien.
SkinDoc App demonstriert XAI
- Die App SkinDoc nutzt Explainable AI, um Hautveränderungen mit nachvollziehbarer Diagnose zu bewerten.
- Sie zeigt Nutzern und Ärzten, welche Bildbereiche für die Entscheidung ausschlaggebend waren.
Erklärbarkeit ≠ Verständlichkeit
- Erklärbarkeit bedeutet Reduktion von Komplexität, weshalb immer Informationen verloren gehen.
- Verständlichkeit ist nicht dasselbe wie Erklärbarkeit, was oft missverstanden wird.