Feintuning und Reinforcement Learning mit menschlichem Feedback

Im neuen ZEIT-Podcast Nur eine Frage stellt Jochen Wegner, Chefredakteur der ZEIT, einfache, aber grundlegende Fragen, die viele von uns umtreiben, auf die eine klare Antwort oft schwer zu finden ist. Er befragt die bestmögliche Expertin, den bestmöglichen Experten, den er für das jeweilige Thema finden konnte – so lange, bis er eine definitive Antwort bekommt. 

Alle Folgen von Nur eine Frage finden Sie hier und auf allen gängigen Podcast-Plattformen.

Nach den spektakulären Fortschritten, die Large Language Models (LLMs) wie ChatGPT in den vergangenen Jahren gemacht haben, könnte man schon ein denkendes Wesen in der Maschine vermuten. Ist da mehr als nur ein Computerprogramm? In der dritten Folge von Nur eine Frage wollen wir von KI-Forscher Richard Socher wissen: "Können Maschinen denken?"

Richard Socher ist ein Pionier der KI-Forschung. Seine Veröffentlichungen haben die Entwicklung der LLMs stark beeinflusst. Seine Dissertation aus dem Jahr 2016 führte rekursive neuronale Netzwerke für die Sprach- und Bildverarbeitung ein – zu einer Zeit, als neuronale Netzwerke als Sackgasse galten – heute sind sie die Grundlage dessen, was populär als künstliche Intelligenz gehandelt wird. Richard Socher hat das Prompt Engineering erfunden, also die Eingabe von frei formulierbaren Sätzen, die heute Standard ist bei der Bedienung von Large Language Models wie ChatGPT. Socher zählt zu den meistzitierten KI-Forschern.

Im Gespräch erklärt Socher, warum er "computo, ergo sum" – ich rechne, also bin ich – für eine brauchbare Definition von Denken hält und weshalb LLMs mehr sind als nur "stochastische Papageien". Socher: "Letztlich haben auch Menschen ein Sprachmodell irgendwo im Gehirn." Nach Ansicht des Forschers ist es problematisch, Intelligenz zu sehr aus menschlicher Sicht zu definieren und zum Maßstab für KI zu nehmen. Die KI sieht Socher überall dort im Vorteil, wo sich Ergebnisse simulieren und verifizieren lassen – ob das Spiele wie Schach oder Go sind oder die Mathematik. Genau in diesen Bereichen sagt Socher spektakuläre Erfolge der KI für die nächsten Jahre voraus.

Die Allgemeine Generative Intelligenz (AGI), die von vielen KI-Firmen und -Wissenschaftlern angestrebt wird, definiert Socher als System mit vielen Fähigkeiten, die sich an denen des Menschen orientieren. Das von ihm mit erfundene Prompt Engineering sieht er als wichtigen Schritt auf dem Weg zu dieser Superintelligenz. Nächste, wichtige Meilensteine wären, dass KIs anfangen, sich selbst zu verbessern und die Grenzen der menschlichen Wahrnehmung und Intelligenz überwinden. Bislang allerdings würden KIs mit menschlicher Sprache trainiert und mit menschlichen Tests gemessen, was zwangsläufig an Grenzen stoßen werde. Der Ausweg: Simulation, Verifikation und neue Sensorik – damit KI über den menschlichen Horizont hinaus wahrnehmen und handeln kann.

Produktion: Pool Artists
Redaktion: Jens Lubbadeh

Alle Folgen unseres Podcasts finden Sie hier. Fragen, Kritik, Anregungen? Schreiben Sie eine Mail an n1f@zeit.de.

Seit dem 15.01.2025 sind Teile des Archivs von Alles gesagt? nur noch exklusiv mit einem Digital- oder Podcastabo der ZEIT zu hören – auf zeit.de, auf Apple Podcasts und auf Spotify. Ein kostenloses Probeabo können Sie hier abschließen. Wie Sie Ihr Abo mit Spotify oder Apple Podcasts verbinden, lesen Sie hier.

[ANZEIGE] Mehr über die Angebote unserer Werbepartnerinnen und -partner finden Sie HIER.

[ANZEIGE] Mehr hören? Dann testen Sie unser Podcastabo mit Zugriff auf alle Dokupodcasts und unser Podcastarchiv. Jetzt 4 Wochen kostenlos testen.
Und falls Sie uns nicht nur hören, sondern auch lesen möchten, testen Sie jetzt 4 Wochen kostenlos DIE ZEIT. Hier geht's zum Angebot.