Deepfakes im Netz: “So was kann massiv imageschädigend sein”
Mar 4, 2024
auto_awesome
Collien Ulmen-Fernandes, Schauspielerin und Moderatorin, kämpft gegen Deepfake-Pornografie, nachdem sie selbst betroffen war. Sie spricht über die Herausforderungen und die Notwendigkeit einer stärkeren Regulierung. Alexander Godulla, Medienforscher aus Leipzig, erklärt die weitreichenden Chancen und Gefahren der Technologie, während sie auch das Vertrauen der Menschen in visuelle Inhalte bedroht. Beide diskutieren, wie eine sinnvolle Politik und rechtliche Rahmenbedingungen aussehen sollten, um gegen den Missbrauch von Deepfakes vorzugehen.
Die zunehmende Verbreitung von Deepfake-Pornografie schadet dem Ruf betroffener Frauen erheblich und ist schwer zu bekämpfen.
Es besteht ein dringender Bedarf an gesetzlicher Regulierung, da die bestehenden Gesetze oft nicht ausreichen, um Deepfakes zu verfolgen.
Die Technologie hinter Deepfakes entwickelt sich rasant weiter, was die Glaubwürdigkeit digitaler Inhalte und das Vertrauen in Informationen gefährdet.
Deep dives
Die Bedrohung durch Deepfake-Pornografie
Deepfake-Pornografie, bei der Gesichter von Frauen in pornografische Inhalte montiert werden, stellt eine erhebliche gesellschaftliche Herausforderung dar. Besonders betroffen sind häufig prominente Frauen, deren Bilder ohne Einverständnis verwendet werden. Die Schauspielerin Colleen Ulm-Fernandes hat selbst erlebt, wie solche Deepfakes ihrem Ruf schaden können. Die Verbreitung solcher Inhalte ist oft so rasant, dass sie nur schwer aus dem Internet entfernt werden können, was die rechtlichen Möglichkeiten zur Bekämpfung solcher Praktiken einschränkt.
Die Rolle der Politik und rechtliche Herausforderungen
Die Politik hat sich bislang wenig mit den Herausforderungen durch Deepfakes auseinandergesetzt, was Colleen Ulm-Fernandes und andere Aktivisten als unzureichend empfinden. Eine gesetzliche Regelung erweist sich als schwierig, da die aktuellen Gesetze oft nicht ausreichen, um Deepfake-Inhalte wirksam zu verfolgen. Beispielsweise greift der Paragraph zur Verletzung der Persönlichkeitsrechte nicht, wenn das Ausgangsmaterial nicht einvernehmlich erstellt wurde. Dies verdeutlicht die dringende Notwendigkeit, die Gesetzgebung an die evolvierende Technologie anzupassen.
Die Gefahren für die Demokratie
Die Verwendung von Deepfakes zur Manipulation von Informationen kann die Wahrnehmung der Demokratie stark beeinträchtigen. In der politischen Welt können gezielte Fälschungen von Reden und Erklärungen das öffentliche Vertrauen in gewählte Vertreter untergraben. Ein Beispiel ist ein gefälschtes Video, in dem der deutsche Bundeskanzler Olaf Scholz vermeintlich ein Verbot der AfD ankündigt, was sich später als Deepfake herausstellt. Solche Vorfälle werfen nicht nur Fragen zur Glaubwürdigkeit von Informationen auf, sondern können auch reale Wahlentscheidungen beeinflussen.
Technologische und gesellschaftliche Herausforderungen
Die Herstellung von Deepfakes ist heutzutage dank zugänglicher Software und einfacher Anwendung für viele Menschen möglich. Das maschinelle Lernen und die Technologie hinter Deepfakes haben sich enorm weiterentwickelt, was die Erkennung von Fälschungen komplizierter macht. Dies führt zu einer allgemeinen Skepsis, ob man digitalen Inhalten überhaupt noch vertrauen kann. Es besteht die Gefahr, dass sich eine Kultur etabliert, in der Menschen Inhalte ungeprüft teilen, was zu einer weiteren Verbreitung von Falschinformationen führt.
Mögliche Lösungen und Ansatzpunkte
Um den Herausforderungen von Deepfakes zu begegnen, ist es wichtig, sowohl juristische als auch technische Lösungen zu finden. Regierungen und Tech-Unternehmen müssen zusammenarbeiten, um Richtlinien und Technologien zu entwickeln, die Deepfakes identifizieren und regulieren können. Ansätze wie Wasserzeichen für echte Bilder oder Tools zur Erkennung von Deepfakes könnten in Zukunft hilfreich sein. Darüber hinaus sollte die Gesellschaft sensibilisiert werden, kritisch mit digitalen Inhalten umzugehen, was auch eine Nachfrage nach mehr Bildung in diesem Bereich bedeutet.
Für die Schauspielerin Collien Ulmen-Fernandes war es ein Schock, als ein befreundeter Produzent sie auf die Bilder ansprach. Jemand hatte Fotos von ihr mithilfe von künstlicher Intelligenz in pornografisches Material montiert. “Das war höchst unangenehm”, sagt Ulmen-Fernandes.
Dank künstlicher Intelligenz lassen sich heute mit immer weniger Aufwand immer bessere Deepfakes erstellen: Fotos, Videos oder Töne, die echt wirken, es aber nicht sind. Welche Risiken, aber auch welche Chancen diese neue Technologie bietet – darum geht es in Folge 62 von Ist das eine Blase? – dem Wirtschaftspodcast über Geld, Macht und Gerechtigkeit.
Zu Gast ist Collien Ulmen-Fernandes. Die Schauspielerin und Moderatorin erklärt, wie schwer der Kampf gegen gefälschtes Bildmaterial ist und wie sie sich zusammen mit Organisation HateAid für eine schärfere Regulierung einsetzt. Wir fragen außerdem beim Bundesjustizministerium nach, ob und wie die Verbreitung illegaler Deepfakes eingedämmt werden könnte.
Außerdem ist in der Folge Alexander Godulla zu Gast, der an der Universität Leipzig zu Deepfakes lehrt und forscht. Godulla glaubt, dass die Technologie viele Branchen verändern wird – von der Modeindustrie bis zur Wissenschaft. Mit ihm sprechen wir über die Gefahren und Chancen der Technologie – und die Frage, wie eine vernünftige Regulierung in diesem Spannungsfeld aussehen könnte.
Alle zwei Wochen diskutieren wir in Ist das eine Blase? über einen Trend, einen Hype oder ein Phänomen in der Wirtschaftswelt und fragen: Ist das nur vorübergehend, eine Blase, aus der bald die Luft entweicht – oder verändert sich da gerade etwas dauerhaft? In dieser Woche mit den Hosts Carla Neuhaus und Jens Tönnesmann; außerdem ist Johanna Jürgens zu Gast, ebenfalls Redakteurin im Wirtschaftsressort der ZEIT. Und wie immer hat das letzte Wort ein Tier.
[ANZEIGE] Mehr hören? Dann testen Sie unser Podcast-Abo mit Zugriff auf alle Dokupodcasts und unser Podcast-Archiv. Jetzt 4 Wochen kostenlos testen. Und falls Sie uns nicht nur hören, sondern auch lesen möchten, testen Sie jetzt 4 Wochen kostenlos DIE ZEIT.Hier geht's zum Angebot.
Remember Everything You Learn from Podcasts
Save insights instantly, chat with episodes, and build lasting knowledge - all powered by AI.
