Tech and Tales #31 Maschinen der Meinung - LLMs prompted to persuade. Überzeugung und Manipulation im Zeitalter von KI. Ein Gespräch mit Pip Klöckner
May 23, 2025
Pip Klöckner, Co-Host des Doppelgänger-Podcasts und Tech-Impulsgeber, spricht über die faszinierenden und besorgniserregenden Aspekte der KI-gestützten Überzeugung. Er analysiert, wie KIs nicht nur Informationen liefern, sondern auch die öffentliche Meinung beeinflussen können, was potenzielle Risiken für Marketing und Politik birgt. Klöckner thematisiert die ethischen Fragen, die im Zusammenhang mit manipulativen Bots und der Nutzung von Internetdaten entstehen, und betont die Notwendigkeit von Schutzmaßnahmen gegen digitale Manipulation.
AI Snips
Chapters
Books
Transcript
Episode notes
Persuasion vs. Manipulation
- Persuasion unterscheidet sich von Manipulation durch positive Ansprache von Logik und Wertesystemen.
- Sie führt dazu, dass Menschen glauben, freiwillig und zu ihrem eigenen Interesse zu handeln.
KI überzeugt besser mit Daten
- KI kann Debatten mit individueller Anpassung führen und so in 64% der Fälle erfolgreicher überzeugen als Menschen mit persönlichen Daten.
- Diese Fähigkeit macht KI zu einem mächtigen Werkzeug in der Meinungsbildung.
Reddit-Debatten mit KI-Bots
- Forscher nutzten in einem Reddit-Subreddit KI-Bots, um Nutzer unbemerkt zu debattieren und deren Meinung zu beeinflussen.
- Dies führte zu einem Eklat, da Nutzer ohne Wissen als Laborratten missbraucht wurden.
