Deepfakes im Netz: “So was kann massiv imageschädigend sein”

Mar 4, 2024

Collien Ulmen-Fernandes, Schauspielerin und Moderatorin, kämpft gegen Deepfake-Pornografie, nachdem sie selbst betroffen war. Sie spricht über die Herausforderungen und die Notwendigkeit einer stärkeren Regulierung. Alexander Godulla, Medienforscher aus Leipzig, erklärt die weitreichenden Chancen und Gefahren der Technologie, während sie auch das Vertrauen der Menschen in visuelle Inhalte bedroht. Beide diskutieren, wie eine sinnvolle Politik und rechtliche Rahmenbedingungen aussehen sollten, um gegen den Missbrauch von Deepfakes vorzugehen.

Ask episode

AI Snips

Chapters

Transcript

Episode notes

ANECDOTE

Deepfake-Erfahrung von Collien

Collien Ulmen-Fernandes berichtete, dass jemand einen Produzenten mit einem Fake-Profil kontaktiert hat, das ihr Gesicht nutzt.
So wurde der Produzent mit pornografischen Bildern getäuscht, was für alle Beteiligten unangenehm und imageschädigend war.

ADVICE

Hilfe für Deepfake-Opfer

Betroffene von Deepfake-Pornografie sollten sich an HateAid wenden.
Die Organisation bietet Beratung und Unterstützung, bevor Anwälte eingeschaltet werden.

INSIGHT

Deepfakes und Medienmisstrauen

Deepfakes verändern die Medienwahrnehmung, da alles möglicherweise gefälscht sein kann.
Das sorgt für ein neues Medienbewusstsein und mehr Misstrauen gegenüber Inhalten.

Get the Snipd Podcast app to discover more snips from this episode

Get the app

Für die Schauspielerin Collien Ulmen-Fernandes war es ein Schock, als ein befreundeter Produzent sie auf die Bilder ansprach. Jemand hatte Fotos von ihr mithilfe von künstlicher Intelligenz in pornografisches Material montiert. “Das war höchst unangenehm”, sagt Ulmen-Fernandes.

Dank künstlicher Intelligenz lassen sich heute mit immer weniger Aufwand immer bessere Deepfakes erstellen: Fotos, Videos oder Töne, die echt wirken, es aber nicht sind. Welche Risiken, aber auch welche Chancen diese neue Technologie bietet – darum geht es in Folge 62 von Ist das eine Blase? – dem Wirtschaftspodcast über Geld, Macht und Gerechtigkeit.

Zu Gast ist Collien Ulmen-Fernandes. Die Schauspielerin und Moderatorin erklärt, wie schwer der Kampf gegen gefälschtes Bildmaterial ist und wie sie sich zusammen mit Organisation HateAid für eine schärfere Regulierung einsetzt. Wir fragen außerdem beim Bundesjustizministerium nach, ob und wie die Verbreitung illegaler Deepfakes eingedämmt werden könnte.

Außerdem ist in der Folge Alexander Godulla zu Gast, der an der Universität Leipzig zu Deepfakes lehrt und forscht. Godulla glaubt, dass die Technologie viele Branchen verändern wird – von der Modeindustrie bis zur Wissenschaft. Mit ihm sprechen wir über die Gefahren und Chancen der Technologie – und die Frage, wie eine vernünftige Regulierung in diesem Spannungsfeld aussehen könnte.

Alle zwei Wochen diskutieren wir in Ist das eine Blase? über einen Trend, einen Hype oder ein Phänomen in der Wirtschaftswelt und fragen: Ist das nur vorübergehend, eine Blase, aus der bald die Luft entweicht – oder verändert sich da gerade etwas dauerhaft? In dieser Woche mit den Hosts Carla Neuhaus und Jens Tönnesmann; außerdem ist Johanna Jürgens zu Gast, ebenfalls Redakteurin im Wirtschaftsressort der ZEIT. Und wie immer hat das letzte Wort ein Tier.

[ANZEIGE] Mehr über die Angebote unserer Werbepartnerinnen und -partner finden Sie HIER.

[ANZEIGE] Mehr hören? Dann testen Sie unser Podcast-Abo mit Zugriff auf alle Dokupodcasts und unser Podcast-Archiv. Jetzt 4 Wochen kostenlos testen. Und falls Sie uns nicht nur hören, sondern auch lesen möchten, testen Sie jetzt 4 Wochen kostenlos DIE ZEIT. Hier geht's zum Angebot.