AMBOSS Podcast – Ärztliches Wissen für Klinik und Praxis

Menschen, Maschinen & Moral: Praxisnahe ethische Fragen zu KI in der Medizin

35 snips

May 6, 2025

Guest

Martin Hirsch

Guest

Markus Herrmann

Prof. Martin Hirsch, Neurowissenschaftler und Gründer von Ada Health, und Markus Herrmann, Medizinethiker am National Center for Tumor Diseases, diskutieren die ethischen Herausforderungen der Künstlichen Intelligenz (KI) in der Medizin. Sie beleuchten die Problematik der 'Black Box'-Algorithmen und die Notwendigkeit von Transparenz in der klinischen Praxis. Zudem thematisieren sie Haftungsfragen und den 'Downskill-Effekt', der durch KI bei Ärzt:innen entstehen könnte. Ein Blick auf internationale Regulierungskonzepte rundet die spannende Diskussion ab.

Ask episode

AI Snips

Chapters

Transcript

Episode notes

ANECDOTE

Ethisches Dilemma Vertrauen vs. KI

Ein ethisches Dilemma wurde vorgestellt, in dem Ärzt:innen zwischen eigener Diagnose und KI-Empfehlung entscheiden müssen.
64% vertrauen auf sich selbst, 36% auf die KI, bei nahen Erfolgsquoten fast 50:50.

INSIGHT

Selbstlernende KI mit Reasoning

Künstliche Intelligenz lernt selbstständig Problemlösungen ohne menschliche Anleitung.
Die neue Generation der KI kombiniert Selbstlernen mit logischem Schlussfolgern.

INSIGHT

Ethik von Anfang an einbeziehen

KI-Entwicklung muss von Anfang an ethisch begleitet werden, nicht erst nach Prototyp.
Ethik sollte Patientenautonomie und soziale Aspekte direkt einbeziehen.

Get the Snipd Podcast app to discover more snips from this episode

Get the app

Live-Aufzeichnung mit mit Prof. Martin Hirsch, Philipps-Universität Marburg PD Markus Herrmann, National Center for Tumor Diseases Dr. Patricia Hinske, AMBOSS Chief of Clinical Innovation

Wie verändert Künstliche Intelligenz (KI) den medizinischen Alltag – und welche ethischen, rechtlichen und praktischen Fragen sind damit verbunden? In dieser Folge unseres Medizinpodcasts sprechen wir über die zentralen Herausforderungen und Chancen von KI im Gesundheitswesen.

Themen dieser Episode:

Nach welchen ethischen Maßstäben sollen medizinische KI-Systeme entscheiden?
Wie problematisch ist die „Black Box“-Natur von KI-Algorithmen für Ärzt:innen?
Warum ist Transparenz („Explainable AI“) so entscheidend in der klinischen Praxis?
Wer nimmt Einfluss auf KI-Systeme – und wie unabhängig können Plattformen wie AMBOSS bleiben?
Datenschutz & Privatsphäre: Wie schützen wir sensible Gesundheitsdaten?
Patientensicherheit vs. Innovation: Wer haftet im Fehlerfall – äztliches Personal oder die KI?
Der Downskill-Effekt: Verlernen Ärzt:innen durch KI ihre klinischen Fähigkeiten?
Blick in die Politik: Was bedeutet die Deregulierung in den USA für Europa? Und wie positioniert sich die deutsche Bundesregierung?

Inhaltsverzeichnis: 00:00:00 Intro 00:03:33 Dilemma: Vertrauen in KI oder sich selbst? 00:09:25 KI kompakt: Definition und Lernmechanismen 00:12:30 KI im medizinischen Alltag 00:17:40 Zwischen Forschung und Markt 00:21:51 Wie können KI-Systeme ethisch handeln? 00:25:52 Verantwortungspflichten klären 00:28:54 KI-Antworten: Verlässlichkeit, Vertrauen, Argumente 00:34:00 Wie transparent muss KI im Klinikalltag sein? 00:36:26 Aus dem Auditorium: Fortschritt und Bürokratie 00:41:05 Aus dem Auditorium: Neudenken des Arztberufs 00:48:02 Haftungsfragen 00:51:02 Downskill durch KI? 00:58:11 Digitale Diskriminierung und Bias 01:05:10 EU AI Act: Ethische Leitplanken für KI 01:09:19 Abschließende Worte und Ausblick

Zwei Monate AMBOSS-Zugang mit dem Code „PODCAST-KONGRESS“ einlösbar bis zum 31.05.2025 unter: https://go.amboss.com/podcast-kongress

Mehr zum AMBOSS-Podcast: https://go.amboss.com/amboss-app

Diese Episode richtet sich an Medizinstudierende, Ärztinnen und Ärzte, Digital-Health-Interessierte sowie alle, die sich für die Schnittstelle von Medizin, Technologie und Gesellschaft interessieren.

Jetzt reinhören – und mitdenken, wie wir verantwortungsvoll mit KI in der Medizin umgehen können!

Disclaimer:

Die Inhalte des AMBOSS-Podcasts sind rein akademisch. Sie dienen nur Informations-, Lern- und Trainingszwecken und sind für ärztliches Personal, Medizinstudierende und andere im Gesundheitswesen Tätige bestimmt. Die Inhalte sind nicht zur Behandlung realer Fälle geeignet und ersetzen keinen Arztbesuch.

Der Podcast wird mit größtmöglicher Sorgfalt erstellt. Die AMBOSS SE übernimmt jedoch keine Gewähr für die Richtigkeit, Vollständigkeit und Aktualität der Inhalte. Für Aussagen von Gesprächspartner:innen sind ausschließlich diese selbst verantwortlich – sie spiegeln nicht unseren Standpunkt wider.

Wir wählen unsere Gesprächspartner:innen ausschließlich aufgrund ihrer wissenschaftlichen Expertise aus. Auf uns bekannte wirtschaftliche Verbindungen unserer Gäste zu Unterstützer:innen unseres Podcasts weisen wir jeweils gesondert hin.