Reception and feasibility of Bengio's plan

ChatGPT hat in der vergangenen Woche seinen dritten Geburtstag gefeiert. Je tiefer künstliche Intelligenz in Computersysteme unseres Alltags integriert wird, desto drängender stellen sich Fragen nach ihren Risiken. Einer, der vor möglichen Problemen immer wieder warnt, ist Yoshua Bengio. Er schuf mit seiner Forschung zu künstlichen neuronalen Netzen die Basis für vieles, was heute den KI-Boom befeuert. Inzwischen aber sorgt er sich, dass sich KI-Modelle teils nicht mehr an die Regeln und Schranken halten, die ihnen bei ihrem Training eingeimpft wurden.

Anders als viele andere Kritiker von künstlicher Intelligenz hat Bengio aber auch eine Idee, wie man das ändern könnte – und zu deren Umsetzung eine Nichtregierungsorganisation gegründet.

Was genau er anders machen will, warum es Bengio völlig egal ist, ob eine KI ein Bewusstsein hat, und wieso ihn besonders KI-Agenten beunruhigen, darüber berichtet Lisa Hegemann, Leiterin des Digitalressorts der ZEIT, in der aktuellen Folge von Neustart. Sie sprach mit Bengio kürzlich im Interview.

Außerdem erzählt Moderatorin Meike Laaff von der Instagram-Kurzvideoreihe Will AI actors replace us?, in der ein Regisseur versucht, KI-Schauspieler per Prompt zu steuern – und dabei spektakulär scheitert. Diskutiert wird in dieser Folge von Neustart außerdem eine Umfrage, laut der die Zahl der Menschen, die sich von KI Texte generieren lässt, in Deutschland leicht zurückgeht. Und warum die Chatkontrolle jetzt vielleicht doch nicht verpflichtend eingeführt werden könnte.

Haben Sie Feedback oder Fragen zur Folge? Dann schreiben Sie uns gern an neustart@zeit.de.

Im ZEIT-Podcast "Neustart" ordnen die Hosts Henrik Oerding und Meike Laaff mit ihren Kolleginnen und Kollegen ab sofort Woche für Woche ein, was gerade in der Digitalwelt passiert – und was dies für die Offlinewelt bedeutet. Auch, aber nicht nur für Nerds. Jeden Donnerstag erscheint eine neue Folge.

Dieser Podcast wird produziert von Pool Artists.

Mehr hören? Dann testen Sie unser Podcast-Abo mit Zugriff auf alle Dokupodcasts und unser Podcast-Archiv. Jetzt 4 Wochen kostenlos testen. Und falls Sie uns nicht nur hören, sondern auch lesen möchten, testen Sie jetzt 4 Wochen kostenlos DIE ZEIT. Hier geht's zum Angebot.