Die Schattenseiten von KI und Empfehlungsalgorithmen

Auch heute freue ich mich wieder darüber, einen äußerst kompetenten und prominenten Gast vorstellen zu dürfen: Prof. Gerd Gigerenzer. Das Thema ist eines, das uns seit einiger Zeit begleitet, und auch noch weiter begleiten wird, denn es gehört zu den wesentlichsten Fragen der heutigen Zeit. Werden wir von der stetig steigenden Komplexität in unserer Gesellschaft, Wirtschaft und Wissenschaft überrollt, oder gelingt es, Mechanismen zu entwickeln, trotzdem kluge und resiliente Entscheidungen zu treffen? Entscheidungen, die uns auch helfen, mit komplexen Risiken umzugehen?

Gerd Gigerenzer war unter anderem langjähriger Direktor am Max-Planck-Institut für Bildungsforschung, ist Direktor des Harding Center for Risk Literacy an der Universität Potsdam, Partner von Simply Rational - The Institute for Decisions und Vizepräsident des European Research Council (ERC). Er ist ehemaliger Professor für Psychologie an der Universität von Chicago und John M. Olin Distinguished Visiting Professor, School of Law an der Universität von Virginia. Darüber hinaus ist er Mitglied der Berlin-Brandenburgischen Akademie der Wissenschaften, der Deutschen Akademie der Wissenschaften und der British Academy sowie Ehrenmitglied der American Academy of Arts and Sciences und der American Philosophical Society. Er hat unzählige Preise gewonnen sowie zahlreiche Bücher geschrieben, die nicht nur inhaltlich höchst relevant sondern zudem auch noch sehr zugänglich für eine breite Leserschicht sind. 

Zu seinen Forschungsschwerpunkten zählen:

• Entscheidungen unter Unsicherheit und Zeitbeschränkung
• Risikokompetenz und Risikokommunikation
• Entscheidungsstrategien von Managern, Richtern und Ärzten

Und genau über diese Themen werden wir uns in der Episode unterhalten. Wie geht man in Situationen großer Unsicherheit mit Daten und Informationen um?

»Je größer die Unsicherheit ist, desto mehr Informationen muss man ignorieren.«

Was ist eine Heuristik, und welche Heuristiken wenden wir erfolgreich in welchen Situationen an?

»In Situationen von Unsicherheit, verlassen sich Menschen nicht auf die ganze Vergangenheit, sondern auf die jüngste Vergangenheit — das nennt man recency Heuristik.«

Warum führen mehr Daten nicht immer zu besseren Entscheidungen?

»Ein Datenpunkt, gut gewählt, erlaubt [in vielen Fällen] bessere Vorhersagen als Big Data«

Was ist Intuition und unter welchen Umständen ist intuitives sinnvoller als vermeintlich rationales Entscheiden?

»Intuition ist keine Willkür. Intuition ist gefühltes Wissen, das auf jahrelanger Erfahrung beruht.«

Was ist von den neuen Theorien der Rationalität, z. B. dem System 1 und 2 von Kahnemann zu halten?

»The abject failure of models in the global financial crisis has not dented their popularity among regulators.«, Mervyn King

Was ist defensives Entscheiden, und warum ist es eines der größten Probleme unserer modernen Welt?

»Der Arzt ist nicht in einer Situation, dem Patienten das Beste zu empfehlen. Viele Ärzte fürchten, dass die Patienten klagen, insbesondere, wenn etwas unterlassen wurde. Die Patienten klagen nicht, wenn unnötige Operationen vorgenommen wurden.«

Weniger kann oft mehr sein:

»Viele Menschen denken — auch in der Wissenschaft — mehr ist immer besser.«

Dabei gilt in den meisten Fällen, gerade auch dort, wo wir häufig versuchen, komplexe Modelle anzuwenden:

»Je größer die Unsicherheit ist, umso einfacher muss man die Regulierung [oder das Modell] machen.«

Eine Erkenntnis, die im Grunde jedem klar ist, der sich mit der Steuerung komplexer Systeme auseinandersetzt. Warum handeln wir stetig dagegen?

»Wir brauchen eine Welt, die den Mut hat zur Vereinfachung.«

Und dann gibt es noch den Aspekt der Rückkopplung von (schlechten) Modellen auf die Welt, die sie vermeintlich beschreiben oder vorhersagen, und wir kommen leicht in einen Teufelskreis der zirkulären und selbstverstärkenden Fehler. Wie lassen sich diese vermeiden?
Was wird die Folge sein, wenn diese Formen der Modellierung und Verhaltenssteuerung auf eine immer totalitärere und total überwachte Gesellschaft trifft?

Entwickeln wir uns aber in der Realität mit künstlicher Intelligenz, Large Language Models und IT-getriebener Automatisierung, aber nicht gerade ins Gegenteil? Eine Welt, deren Entscheidungen von immer komplexeren Systemen intransparent getroffen werden, wo niemand mehr nachvollziehen oder bewerten und in Wahrheit verantworten kann, ob diese Entscheidungen sinnvoll sind? Denken wir beispielsweise an Modelle, die Rückfallwahrscheinlichkeiten von Straftätern bewerten.

»Viele Menschen lächeln über altmodische Wahrsager. Doch sobald die Hellseher mit Computern arbeiten, nehmen wir ihre Vorhersagen ernst und sind bereit, für sie zu zahlen.«

Zu welcher Welt bewegen wir uns hin? Zu einer, in der wir radikale Unsicherheit akzeptieren und entsprechen handeln, oder einer, wo wir uns immer mehr der Illusion von Kontrolle, Vorhersagbarkeit und Steuerbarkeit verlieren?

»In einer Welt, in der Technik (vermeintlich) smart wird, brauchen wir vor allem eines, nämlich Menschen, die auch smart werden. Also Menschen, die mitdenken, die sich nicht zurücklehnen und konsumieren; die sich nicht auf das reduzieren lassen, was man ihnen empfiehlt.«

Und zum Ende macht Prof. Gigerenzer noch den wichtigsten Aufruf der heutigen Zeit:

Mitdenken!

Denn es gilt:

»The world is inherently uncertain and to pretend otherwise is to create risk, not to minimise it.«, Mervyn King

Referenzen

Andere Episoden

• Episode 121: Künstliche Unintelligenz
• Episode 118: Science and Decision Making under Uncertainty, A Conversation with Prof. John Ioannidis
• Episode 112: Nullius in Verba — oder: Der Müll der Wissenschaft
• Episode 109: Was ist Komplexität? Ein Gespräch mit Dr. Marco Wehr
• Episode 107: How to Organise Complex Societies? A Conversation with Johan Norberg
• Episode 106: Wissenschaft als Ersatzreligion? Ein Gespräch mit  Manfred Glauninger
• Episode 99: Entkopplung, Kopplung, Rückkopplung
• Episode 92: Wissen und Expertise Teil 2
• Episode 80: Wissen, Expertise und Prognose, eine Reflexion
• Episode 79: Escape from Model Land, a Conversation with Dr. Erica Thompson

Prof. Gerd Gigerenzer

• Prof. Gigerenzer amd MPIB-Berlin

Fachliche Referenzen

• Gerd Gigerenzer, Bauchentscheidungen: Die Intelligenz des Unbewussten und die Macht der Intuition, Goldmann (2008)
• Gerd Gigerenzer, Das Einmaleins der Skepsis: Über den richtigen Umgang mit Zahlen und Risiken, Piper (2015)
• Gerd Gigerenzer, Risiko: Wie man die richtigen Entscheidungen trifft, Pantheon (2020)
• Gerd Gigerenzer, Klick: Wie wir in einer digitalen Welt die Kontrolle behalten und die richtigen Entscheidungen treffen, Bertelsmann (2021)
• Gerd Gigerenzer, Smart Management: Mit einfachen Heuristiken gute Entscheidungen treffen, Campus (2025) 
• Daniel Kahnemann, Schnelles Denken, langsames Denken, Siedler Verlag (2012)
• Gerd Gigerenzer, The rationally wars: a personal reflection, BPP (2024)
• Konstantinos Katsikopoulos, Gerd Gigerenzer et al, Transparent modeling of influenza incidence: Big data or a single data point from psychological theory?, International Journal of Forecasting (2022)
• Mervyn King, John Kay, Radical Uncertainty, Bridge Street Press (2021)
• Rory Sutherland, Alchemy, WH Allen (2021)
• Peter Kruse, next practice. Erfolgreiches Management von Instabilität. Veränderung durch Vernetzung, Gabal (2020)
• John P. Ioannidis, Forecasting for COVID-19 has failed, International Journal of Forecasting (2022)