UNF#CK YOUR DATA

AI ohne Bias? Warum ausgewogenen und saubere Daten so wichtig sind | Elisabeth l‘Orange

Dec 11, 2024

59:09

Hast du dich schon mal gewundert, dass eine KI ein seltsames Ergebnis geliefert hat? Lag es vielleicht nicht am Prompt, sondern an den Daten dahinter? Darüber spricht Christian Krug, der Host des Podcasts „Unf*ck Your Data“ mit Elisabeth l’Orange Gründerin und CCO bei Oxolo.

Die CEOs auf GenAI Bildern – Nur Männer. Die Krankenschwestern – Nur Frauen. Und dann rennt die Braut im generierten Video zum Altar wie ein Businesstyp der über den Flughafen sprintet. Der IQ in einem Land ist angeblich deutlich niedriger als bei den Nachbarn?

Wirkt seltsam im ersten Moment, aber nur wenn man KI mal wieder magische Fähigkeiten unterstellt. Denn oft werden die Ergebnisse klar, wenn wir einen Blick in die Daten wagen, mit denen die KI Modelle trainiert wurden.

Maschinelles Lernen funktioniert auf Basis von Mathematik und eben nicht Magie. Und so kommt es, dass alle Verzerrungen oder Ungleichheiten, die wir im Training dem System beibringen sich in den Ergebnissen widerspiegeln.

Bei einigen Bereichen mag dies kritischer sein als bei anderen. Manchmal verstößt es gegen unsere Werte in der Gesellschaft, manchmal aber hängen auch direkt Menschenleben daran. Zum Beispiel in medizinischen Modellen, die ernste Krankheiten frühzeitig erkennen können.

Je genauer diese Modelle auf unsere spezifischen Gegebenheiten angepasst werden, desto besser die Ergebnisse.

So wird das Rennen um die KI auch ein Rennen um die Daten.

Denn es ist gar nicht so leichte gute und saubere Daten zu bekommen. Wer hier jetzt die Nase vorne hat kann auch im Rennen mit KI sicher punkten.

Doch wie kommen wir dann jetzt zu besseren Ergebnissen und Guardrails, die dafür sorgen, dass die Systeme entsprechend verantwortungsvoll trainiert und eingesetzt werden?

▬▬▬▬▬▬ Profile: ▬▬▬▬

Zum LinkedIn-Profil von Elisabeth: https://www.linkedin.com/in/lislorange/

Zu Tech & Tales: https://www.talespod.com/

Zum LinkedIn-Profil von Christian: https://www.linkedin.com/in/christian-krug/

Christians Wonderlink: https://wonderl.ink/@christiankrug

Unf*ck Your Data auf Linkedin: https://www.linkedin.com/company/unfck-your-data

▬▬▬▬▬▬ Buchempfehlung: ▬▬▬▬

Buchempfehlung von Elisabeth: Lean In - Sheryl Sandberg

Alle Empfehlungen in Melenas Bücherladen: https://gunzenhausen.buchhandlung.de/unfuckyourdata

▬▬▬▬▬▬ Hier findest Du Unf*ck Your Data: ▬▬▬▬

Zum Podcast auf Spotify: https://open.spotify.com/show/6Ow7ySMbgnir27etMYkpxT?si=dc0fd2b3c6454bfa

Zum Podcast auf iTunes: https://podcasts.apple.com/de/podcast/unf-ck-your-data/id1673832019