Das Wissen | SWR cover image

Das Wissen | SWR

Wenn KI Entscheidungen trifft – Hilfreich bis tödlich

Dec 1, 2024
Katharina Zweig, Professorin für Sozioinformatik an der TU Kaiserslautern-Landau und Expertin für die gesellschaftlichen Auswirkungen von Künstlicher Intelligenz, diskutiert die Problematik der KI-gestützten Entscheidungsfindung. Sie beleuchtet die Herausforderungen bei der qualitativen Bewertung durch Maschinen und erklärt die Unterschiede zwischen Algorithmen und Heuristiken. Zweig warnt vor den Grenzen der KI, besonders in sensiblen Bereichen wie Verkehr und Medizin, und hebt die Notwendigkeit hervor, Kompetenzen im Umgang mit KI in sozialen Prozessen zu fördern.
30:22

Episode guests

Podcast summary created with Snipd AI

Quick takeaways

  • Künstliche Intelligenz kann Muster in großen Datenmengen erkennen, zeigt aber Grenzen in komplexen Entscheidungssituationen wie der Notevergabe auf.
  • Die Integration von KI in soziale Systeme erfordert eine kritische Überprüfung der Algorithmen und ein Umdenken hinsichtlich der Verantwortung für Entscheidungen.

Deep dives

Herausforderungen der KI bei Entscheidungen

Künstliche Intelligenz kann bei vielen Aufgaben unterstützen, doch ihre Anwendung in komplexen Entscheidungssituationen bietet Herausforderungen. Ein wichtiges Beispiel ist die Notevergabe in der Schule, wo Werturteile eine zentrale Rolle spielen und menschliche Expertise erfordern. Maschinen können zwar Muster in Texten erkennen, jedoch fehlt ihnen das tiefere Verständnis von Kontext und Bedeutung. Daher ist es schwierig, dass KI-Systeme bei solch subjektiven Bewertungen gleichwertige Ergebnisse liefern wie Menschen.

Get the Snipd
podcast app

Unlock the knowledge in podcasts with the podcast player of the future.
App store bannerPlay store banner

AI-powered
podcast player

Listen to all your favourite podcasts with AI-powered features

Discover
highlights

Listen to the best highlights from the podcasts you love and dive into the full episode

Save any
moment

Hear something you like? Tap your headphones to save it with AI-generated key takeaways

Share
& Export

Send highlights to Twitter, WhatsApp or export them to Notion, Readwise & more

AI-powered
podcast player

Listen to all your favourite podcasts with AI-powered features

Discover
highlights

Listen to the best highlights from the podcasts you love and dive into the full episode