AI ohne Bias? Warum ausgewogenen und saubere Daten so wichtig sind | Elisabeth l‘Orange

Hast du dich schon mal gewundert, dass eine KI ein seltsames Ergebnis geliefert hat? Lag es vielleicht nicht am Prompt, sondern an den Daten dahinter? Darüber spricht Christian Krug, der Host des Podcasts „Unf*ck Your Data“ mit Elisabeth l’Orange Gründerin und CCO bei Oxolo.

Die CEOs auf GenAI Bildern – Nur Männer. Die Krankenschwestern – Nur Frauen. Und dann rennt die Braut im generierten Video zum Altar wie ein Businesstyp der über den Flughafen sprintet. Der IQ in einem Land ist angeblich deutlich niedriger als bei den Nachbarn?

Wirkt seltsam im ersten Moment, aber nur wenn man KI mal wieder magische Fähigkeiten unterstellt. Denn oft werden die Ergebnisse klar, wenn wir einen Blick in die Daten wagen, mit denen die KI Modelle trainiert wurden.

Maschinelles Lernen funktioniert auf Basis von Mathematik und eben nicht Magie. Und so kommt es, dass alle Verzerrungen oder Ungleichheiten, die wir im Training dem System beibringen sich in den Ergebnissen widerspiegeln.

Bei einigen Bereichen mag dies kritischer sein als bei anderen. Manchmal verstößt es gegen unsere Werte in der Gesellschaft, manchmal aber hängen auch direkt Menschenleben daran. Zum Beispiel in medizinischen Modellen, die ernste Krankheiten frühzeitig erkennen können.

Je genauer diese Modelle auf unsere spezifischen Gegebenheiten angepasst werden, desto besser die Ergebnisse.

So wird das Rennen um die KI auch ein Rennen um die Daten.

Denn es ist gar nicht so leichte gute und saubere Daten zu bekommen. Wer hier jetzt die Nase vorne hat kann auch im Rennen mit KI sicher punkten.

Doch wie kommen wir dann jetzt zu besseren Ergebnissen und Guardrails, die dafür sorgen, dass die Systeme entsprechend verantwortungsvoll trainiert und eingesetzt werden?

▬▬▬▬▬▬ Profile: ▬▬▬▬

Zum LinkedIn-Profil von Elisabeth: https://www.linkedin.com/in/lislorange/

Zu Tech & Tales: https://www.talespod.com/

Zum LinkedIn-Profil von Christian: https://www.linkedin.com/in/christian-krug/

Christians Wonderlink: https://wonderl.ink/@christiankrug

Unf*ck Your Data auf Linkedin: https://www.linkedin.com/company/unfck-your-data

▬▬▬▬▬▬ Buchempfehlung: ▬▬▬▬

Buchempfehlung von Elisabeth: Lean In - Sheryl Sandberg

Alle Empfehlungen in Melenas Bücherladen: https://gunzenhausen.buchhandlung.de/unfuckyourdata

▬▬▬▬▬▬ Hier findest Du Unf*ck Your Data: ▬▬▬▬

Zum Podcast auf Spotify: https://open.spotify.com/show/6Ow7ySMbgnir27etMYkpxT?si=dc0fd2b3c6454bfa

Zum Podcast auf iTunes: https://podcasts.apple.com/de/podcast/unf-ck-your-data/id1673832019

Zum Podcast auf Deezer: https://deezer.page.link/FnT5kRSjf2k54iib6

Zum Podcast auf Youtube: https://www.youtube.com/@unfckyourdata

▬▬▬▬▬▬ Merch: ▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬

https://unfckyourdata-shop.de/

▬▬▬▬▬▬ Kontakt: ▬▬▬▬

E-Mail: christian@uyd-podcast.com

▬▬▬▬▬▬ Timestamps: ▬▬▬▬▬▬▬▬▬▬▬▬▬

00:00 Einführung in die Welt der KI und Daten

05:06 Die Herausforderungen von Bias in KI-Daten

09:49 Die Bedeutung von Datenqualität und Diversität

14:51 Die Rolle von Human-in-the-Loop in KI-Modellen

20:12 Die ethischen Implikationen von KI und Bias

22:02 Regulatorische Herausforderungen in der KI-Entwicklung

25:18 Die Rolle von Bias in KI-Modellen

30:24 Gesellschaftliche Verantwortung und regionale Unterschiede

34:10 Die Notwendigkeit staatlicher Intervention in der KI

39:51 Kritische Anwendungen von KI in der Gesellschaft

44:04 Die Bedeutung von Zweitmeinungen in der Medizin

47:25 Früherkennung und KI in der Diagnostik

50:14 Bias in medizinischen Studien und deren Auswirkungen

53:52 Verantwortungsvoller Umgang mit Daten und KI

01:00:36 Persönliche Einblicke und Buchempfehlungen