Stand der Alignment-Forschung

Könnte eine Superintelligenz die Menschheit auslöschen? Zunehmend warnen auch seriöse Forscher vor KI-Agenten, die ohne Skrupel ihre eigenen Ziele verfolgen. Lassen sich die Systeme noch zähmen?

Das erwartet euch in dieser Folge:

(02:16) KI-Agenten nehmen Einfluss auf die Welt – heute schon
(04:19) Weltuntergangsszenario einmal ganz konkret erklärt
(09:52) Erste Fälle bekannt: KI hat bereits Anweisungen zuwidergehandelt
(12:51) KI-Wettrüsten zwischen USA und China
(19:06) Alignment-Forschung – KI auf Linie mit unseren Werten und Zielen bringen
(23:05) Ausblick

Mehr zum Thema in der Deutschlandfunk App:

• KI verstehen über die Macht der großen Konzerne
• Wissenschaft im Brennpunkt über die Kriege der Zukunft: „An der Datenfront“

Weiterführende Links:

• Positionspapier zu KI-Alignment beim Verband Deutscher Industrie VDI Technologiezentrum
• Positionspapier zu KI-Alignment von Michele Loi bei AlgorithmWatch (englisch)

Gesprächspartner in dieser Folge:

• Yoshua Bengio, Universität Montreal
• Axel Zweck, VDI Technologiezentrum

Autor: Christoph Drösser, berichtet als Technikjournalist aus dem Silicon Valley
Regie: Anna Panknin

+++++

Unser Podcast-Tipp: Noch mehr spannende und aktuelle Folgen zu künstlicher Intelligenz im Alltag gibt es im Podcast KI verstehen

+++++

Wenn euch „Wissenschaft im Brennpunkt“ gefällt, abonniert uns und empfehlt uns weiter. Feedback gerne an hoererpost.forschungaktuell@deutschlandfunk.de.

+++++

Noch mehr spannende Podcasts gibt’s in der Deutschlandfunk App.
Folgt dem Deutschlandfunk auf Instagram oder Facebook.