Kinder wachsen heute mit künstlicher Intelligenz auf: Chatbots helfen bei Hausaufgaben, erzählen Geschichten oder hören einfach zu. Das kann Spaß machen und hilfreich sein. Doch was, wenn sich Kinder emotional an KI binden? Oder wenn Systeme gefährliche Inhalte ausgeben? In den USA verklagen mehrere Eltern die Anbieter von Chatbots, nachdem sich ihre Kinder nach langen KI-Gesprächen das Leben genommen haben.

In dieser Folge von "Neustart", dem Digitalpodcast der ZEIT, spricht Host Henrik Oerding mit Pauline Schinkels aus dem Digitalressort darüber, welche Gefahren es bei der KI-Nutzung für Kinder gibt und wie die großen Anbieter Kinder besser schützen wollen. OpenAI hat zuletzt Jugendschutzeinstellungen eingeführt, durch die Eltern bei akuter Gefahr benachrichtigt werden sollen, außerdem soll ein Expertenrat eingesetzt werden. Und auch Meta plant neue Kontrollfunktionen für die Instagram-KI. Helfen diese Maßnahmen wirklich – oder verlangen sie Eltern zu viel technisches Verständnis ab? Und was unternimmt die Politik?

Außerdem geht es im "Rabbithole" um PeakFinder, eine App, die Gipfel und Bergsilhouetten erkennen kann – und die Bildschirmzeit im Urlaub nach oben treibt. Im "Arbeitsspeicher" sprechen die Redakteure über die Satire-Kampagne „Replacement AI“, die mit Sprüchen wie „Menschen sind nicht mehr nötig – also schaffen wir sie ab“ die Versprechen der Techkonzerne parodiert. Und über den globalen Ausfall von Amazons Cloud-Dienst AWS, der zeigt, was passieren kann, wenn sich die digitale Welt auf wenige Anbieter stützt.

Haben Sie Feedback oder Fragen zur Folge? Dann schreiben Sie uns gern an neustart@zeit.de.

Sie möchten „Neustart“ und andere ZEIT-Podcasts einmal live erleben? Das geht beim ZEIT-Podcastclub am 1. November in Berlin. Tickets und alle Infos finden Sie hier.

Im ZEIT-Podcast "Neustart" ordnen die Hosts Henrik Oerding und Meike Laaff mit ihren Kolleginnen und Kollegen ab sofort Woche für Woche ein, was gerade in der Digitalwelt passiert – und was dies für die Offlinewelt bedeutet. Auch, aber nicht nur für Nerds. Jeden Donnerstag erscheint eine neue Folge.

Dieser Podcast wird produziert von Pool Artists.

Zum Weiterlesen und -hören:

Die App PeakFinder: https://www.zeit.de/digital/mobil/2023-09/peakfinder-app-berge-alpen-test

Die JIM-Studie 2024: https://mpfs.de/app/uploads/2024/11/JIM_2024_PDF_barrierearm.pdf

Interview mit der Ethikerin Judith Simon: https://www.zeit.de/kultur/2025-08/judith-simon-ki-chatbots-abhaengigkeit-bildung-ethik

Der Fall Adam Raine: https://www.nytimes.com/2025/08/26/technology/chatgpt-openai-suicide.html

OpenAI – neuer Expertenrat: https://openai.com/index/expert-council-on-well-being-and-ai/

OpenAI – Kindersicherungen: https://openai.com/de-DE/index/introducing-parental-controls/

OpenAI – Altersvorhersage: https://openai.com/de-DE/index/building-towards-age-prediction/

Meta – Recherche zu problematischen Leitlinien: https://about.fb.com/news/2025/10/teen-ai-safety-approach/

Meta – neue Sicherheitsfunktionen: https://about.fb.com/news/2025/10/teen-ai-safety-approach/

Anhörung zum Jugendschutz bei KI im US-Senat: https://www.senate.gov/isvp/?auto_play=false&comm=judiciary&filename=judiciary091625p&

Replacement.AI: https://replacement.ai/

Ausfall bei AWS: https://www.zeit.de/digital/internet/2025-10/amazon-cloud-ausfall-digitale-infrastruktur-abhaengigkeit-internet

Was, wenn Trump den Schalter umlegt? https://www.zeit.de/digital/2025-09/digitale-souveraenitaet-deutschland-abhaengigkeit-usa-technologie-digitalpodcast

Mehr hören? Dann testen Sie unser Podcast-Abo mit Zugriff auf alle Dokupodcasts und unser Podcast-Archiv. Jetzt 4 Wochen kostenlos testen. Und falls Sie uns nicht nur hören, sondern auch lesen möchten, testen Sie jetzt 4 Wochen kostenlos DIE ZEIT. Hier geht's zum Angebot.

This Is Us (An Intro)