Die anthropische Grenze der Evaluation

Was steckt in ChatGPT? Eigenständiges Denken oder doch nur ein Computerprogramm? Darüber haben wir mit dem KI-Pionier Richard Socher gesprochen.

Im neuen Podcast Nur eine Frage stellt ZEIT-Chefredakteur Jochen Wegner einfache, aber grundlegende Fragen, die viele von uns umtreiben – auf die eine klare Antwort aber schwer zu finden ist. Er befragt die bestmögliche Expertin, den bestmöglichen Experten, den wir für das jeweilige Thema finden können – so lange, bis er die Antwort verstanden hat.

Nach den spektakulären Fortschritten, die Large Language Models (LLMs) wie ChatGPT in den vergangenen Jahren gemacht haben, könnte man schon ein denkendes Wesen in der Maschine vermuten. Ist da mehr als nur ein Computerprogramm? In der dritten Folge von Nur eine Frage wollen wir von KI-Forscher Richard Socher wissen: "Können Maschinen denken?"

Richard Socher ist ein Pionier der KI-Forschung. Seine Veröffentlichungen haben die Entwicklung der LLMs stark beeinflusst. Seine Dissertation aus dem Jahr 2016 führte rekursive neuronale Netzwerke für die Sprach- und Bildverarbeitung ein – zu einer Zeit, als neuronale Netzwerke als Sackgasse galten – heute sind sie die Grundlage dessen, was populär als künstliche Intelligenz gehandelt wird. Richard Socher hat das Prompt Engineering erfunden, also die Eingabe von frei formulierbaren Sätzen, die heute Standard ist bei der Bedienung von Large Language Models wie ChatGPT. Socher zählt zu den meistzitierten KI-Forschern.

Im Gespräch erklärt Socher, warum er "computo, ergo sum" – ich rechne, also bin ich – für eine brauchbare Definition von Denken hält und weshalb LLMs mehr sind als nur "stochastische Papageien". Socher: "Letztlich haben auch Menschen ein Sprachmodell irgendwo im Gehirn." Nach Ansicht des Forschers ist es problematisch, Intelligenz zu sehr aus menschlicher Sicht zu definieren und zum Maßstab für KI zu nehmen. Die KI sieht Socher überall dort im Vorteil, wo sich Ergebnisse simulieren und verifizieren lassen – ob das Spiele wie Schach oder Go sind oder die Mathematik. Genau in diesen Bereichen sagt Socher spektakuläre Erfolge der KI für die nächsten Jahre voraus. 

Die Allgemeine Generative Intelligenz (AGI), die von vielen KI-Firmen und -Wissenschaftlern angestrebt wird, definiert Socher als System mit vielen Fähigkeiten, die sich an denen des Menschen orientieren. Das von ihm mit erfundene Prompt Engineering sieht er als wichtigen Schritt auf dem Weg zu dieser Superintelligenz. Nächste, wichtige Meilensteine wären, dass KIs anfangen, sich selbst zu verbessern und die Grenzen der menschlichen Wahrnehmung und Intelligenz überwinden. Bislang allerdings würden KIs mit menschlicher Sprache trainiert und mit menschlichen Tests gemessen, was zwangsläufig an Grenzen stoßen werde. Der Ausweg: Simulation, Verifikation und neue Sensorik – damit KI über den menschlichen Horizont hinaus wahrnehmen und handeln kann.

Produktion: Pool Artists

Redaktion: Jens Lubbadeh

Videoproduktion: Claudius Dobs

Animation: Axel Rudolph

Alle Folgen unseres Podcasts finden Sie hier: https://t1p.de/ncx2p Fragen, Kritik, Anregungen? Schreiben Sie eine Mail an n1f@zeit.de