Risiken der Stimmmanipulation durch KI

Wenige Sekunden Tonaufnahme genügen, um die menschliche Stimme mit Hilfe von KI-Tools erstaunlich realistisch klonen zu können. Welchen Nutzen bringt ein Sprachgenerator? Können wir unseren Ohren noch trauen? Wie lassen sich Deepfakes entlarven? Piotr Heller und Moritz Metz sprechen über KI-Stimmen.

Kapitelmarken
(0:00) Der Begriff 'Scholzomat' bekommt eine neue Bedeutung
(1:59) Zocken Betrüger meine Oma mit dem KI-Enkeltrick ab?
(5:02) Menschen spielen gerne mit Fake-Stimmen
(9:04) Wie funktioniert Stimm-Klonen?
(13:08) Wo ist Stimm-Klonen sinnvoll?
(17:37) Stimm-Klone in der Popmusik
(21:02) Wie umgehen mit der neuen Technik und dem Hype?
(25:40) Fazit
(28:13) Outro und Ausblick

Weiterführende Links

• Rentnerin fällt auf Enkeltrick mit KI-Stimme herein
• Startup Elevenlabs ermöglicht Klon jeder Stimme
• ARD-Korrespondent Nils Damz legt seine Mutter hinein
• Vice-Autor Joseph Cox legt sein Telefonbanking hinein
• Wie lange Menschen schon an künstlichen Stimmen arbeiten
• Studie zum Sprachgenerator VALL-E
• 1961: Computer singt 'Daisy Bell'
• How the AI Drake Song 'Heart On My Sleeve' was made
• Falscher Johnny Cash singt 'Barbie Girl'
• Open-Source Stimmgenerator
• Aviv Ovadya über 'Realitätszersplitterung' und 'Realitätsapathie'

Mehr zum Thema KI in der Dlf Audiothek

• Menschen können Sprach-Deepfakes schlecht erkennen
• Moderation ohne Moderator: Radio Helgoland sendet mit KI
• Wie Karel Gott per KI weiterlebt

Wenn Euch diese Episode gefallen hat, abonniert uns und empfehlt uns gerne weiter! Für Kritik, Fragen und Anregungen schickt uns eine E-Mail an kiverstehen@deutschlandfunk.de oder eine Sprachnachricht per Signal oder Whatsapp an 0152-59529753.

Noch mehr spannende Podcasts gibt’s in der Dlf Audiothek App. Zu finden in den App-Stores von Apple und Google.

Folgt dem Deutschlandfunk auch auf Instagram oder Facebook.