Wäre Regulierung eine Lösung gegen die Flut an KI-Falschmeldungen?

Sie soll mit dem bekannten Rapper Kontra K liiert sein und sogar Kinder mit ihm haben. Das zumindest behaupten zahlreiche KI-generierte Nachrichtenseiten über die in der Schweiz lebende Journalistin Celina Euchner. Doch alles daran ist falsch.

Euchner hatte den Rapper ein Mal getroffen – für ein Interview vor Jahren. Offenbar leiteten KI-Modelle aus der Bildunterschrift zu einem Foto, auf dem Euchner beim Gespräch mit Kontra K zu sehen ist, die falsche Information ab. Die Folge: Immer mehr KI-Nachrichtenseiten berichteten über das angebliche Verhältnis. Die Maschinen hätten "im Grunde ein neues Privatleben über mich" erfunden, sagt Euchner, die kürzlich im Schweizer "Tages-Anzeiger" aufgeschrieben hat, was ihr passiert ist.

Ihre Geschichte ist kein Einzelfall. So gab es etwa einen deutschen Reporter, der über Kindesmissbrauch berichtet hatte und vom Chatbot Copilot fälschlicherweise selbst dafür bezichtigt wurde. „Mehr als die Hälfte der Artikel im Moment draußen im Netz sind solcher KI-Schrott (…) und die Chatbots werden trainiert mit diesem Schrott“, erklärt Euchners Kollege Oliver Zihlmann, der diese Woche mit Euchner zusammen zu Gast ist im Übermedien-Podcast. Die beiden haben gemeinsam recherchiert, welche Interessen hinter solchen KI-Nachrichtenseiten stecken.

Was sagen die Betreiber der Websites? Wie reagieren die Entwickler der Chatbots? Wie fühlt es sich an, so viele falsche Dinge über sich im Internet zu lesen? Und was kann man dagegen tun? Darum geht es in der neuen Folge von „Holger ruft an …“.

Die Gäste:

Celina Euchner ist Redakteurin am Digitaldesk von Tamedia. Sie absolvierte die Ringier-Journalistenschule und berichtete von 2021 bis 2023 als US-Korrespondentin für die Schweizer Blick-Gruppe aus New York und San Diego. Sie hat Germanistik und Französisch studiert.

Oliver Zihlmann ist promovierter Historiker und Leiter des Recherchedesks von Tamedia. Er recherchiert regelmäßig in Kooperation mit Journalisten weltweit und lehrt Investigative Recherche an der Hochschule für Angewandte Wissenschaften in Zürich. Für seine Arbeit wurde er mehrfach prämiert.

Der Host: Holger Klein ist Podcaster und ehemaliger Hörfunkmoderator. Seit 2021 ruft er für Übermedien jede Woche bei Leuten aus der Medienbranche an, um mit ihnen über aktuelle Medienthemen und ihre Hintergründe zu sprechen.

Links:

Fake-News-Websites machen mich zur Partnerin eines Promi-Rappers. Und ich kann nichts dagegen tun (Celina Euchner im „Tages-Anzeiger“) „Eine beängstigende Entwicklung“: Wie KI-Artikel das Internet mit Fake News überfluten (Recherche von Oliver Zihlmann und Celina Euchner im „Tages-Anzeiger“ „Sleepless Historian“ und Co.: So wird Youtube mit KI-Schrott überflutet (Video von Mats Schönauer) Alles zum Thema Künstliche Intelligenz bei Übermedien

Wie eine KI einen Reporter zum Verbrecher machte („Spiegel“)

Über Übermedien

Übermedien ist das führende Online-Magazin für Medienkritik. Wir sind werbefrei und unabhängig. Wir decken Fehler in der Berichterstattung auf, wir erklären die Hintergründe – und wir zeigen, was daran wichtig ist. Wer also Lust auf guten Journalismus habt, aber Medien nicht einfach alles glauben möchte, abonniert am besten unseren kostenlosen Newsletter „Der Überblick“. Mehr dazu auf uebermedien.de.

Lust auf noch mehr Übermedien-Podcasts? Hier geht's zu „Nice & Nötig“, dem Übermedien-Podcast für gute Ideen mit Annika Schneider