EGL061 KI Reality Check: Vom Produktdenken zum Prozesspartner

Sep 26, 2024

Ask episode

Chapters

Transcript

Episode notes

"Add one egg!" - Bill Schlackman, Psychologist (In: Century of the Self)

Über eineinhalb Jahre nach unserer letzten Episode zur Künstlichen Intelligenz scheint es an der Zeit, das Thema wieder einmal anzufassen. Wir stellen beim Abgleich fest, dass wir früher viel mehr auf das Produkt fixiert waren und den Prozess dahin ignoriert haben. Doch genau da hat die KI längst die Fäden in der Hand - oder unsere Hände eingefädelt? Wir sind entspannter und vielleicht damals einfach mal wieder dem Kulturpessimismus auf den Leim gegangen, der bei jeder technischen Neuerung skeptisch aus seiner Komfortzone lugt? War die Panik vor der KI am Ende nicht doch die gleiche wie damals vor dem Internet, als Schulen schon befürchteten schließen zu müssen, weil doch alles im Internet kopiert werden könne? Die gleiche Angst wie vor Gutenbergs Buchdruckmachine? Oder der Kassette, mit der man angeblich die Musikindustrie zerstören konnte? Natürlich haben wir keine endgültige Antwort parat. Aber immerhin haben wir unsere Setups mit KI im Alltag durchgespielt und sind zu dem nicht ganz revolutionären Schluss gekommen: Am besten fährt man, wenn man sich die Zügel nicht aus der Hand reißen lässt, das Produkt als eigenes festhält und die KI bloß als nützlichen Assistenten betrachtet.

Shownotes

Mitwirkende

Micz Flor (Erzähler)
Florian Clauß
- Bluesky
- Mastodon
- Soundcloud
- Website

KI Revisited. Wir besuchen unsere Episode vom Februar 2023 noch einmal, um heute neu zu reflektieren, wie künstliche Intelligenz jetzt in unserem Alltag angekommen ist. Technologiepessimismus ist auch für uns nichts Neues und wir leuchten noch einmal auf die Sorgen von damals. Damals. Damals hatten wir schon den Schriftsteller Jorge Luis Borges und seinen Text „Die Bibliothek von Babel“ in der Episode, haben aber einen Link nicht herstellen können, der uns jetzt erst klar wird: Chat GPT ist wie eine solche Bibliothek: alle Texte gibt es schon. Irgendetwas wird schon passen. Und die angelernte Maschine generiert etwas, das es sowieso schon geben könnte.

Der große Unterschied: Chat GPT erschafft eine Gegenwart aus dem Vergangenen, aus dem, was schon beim Lernen aufgesaugt werden konnte. Bei Borges hypothetischer Bibliothek sind alle zukünftigen Erfindungen und Neuerungen auch schon im Regal.

Wie zukunftsfähig sind die Netzwerke?

Da können wir an Ted Chiang anknüpfen, der in „Catching Crumbs from the Table“ über eine KI schreibt, die die Menschen längst abgehängt hat. Und die Menschen versuchen die Texte der Maschinen zu deuten. Verstehen ist nicht mehr möglich. Diese Zukunft ist auch schon in der „Bibliothek von Babel“ gegenwärtig. Wir würden sie aber genauso wenig verstehen, wie wenn wir jemandem von vor hundert Jahren sagen würden: „Brenn doch den Folder auf CD“. Und jemand in hundert Jahren würde das wohl auch nicht mehr verstehen…

Die Kontinuität von Wissen und Kultur

Chiangs Text spielt gedanklich mit einer Zukunft, in der Maschinen und Menschen nicht mehr verbunden sind. Wahrheit und Wissen wird von Maschinen in rasender Geschwindigkeit erstellt. Die Menschen kommen nicht mehr mit. Betrachten wir dies aus „unserer“ menschlichen Perspektive, dann ist fraglich, ob das in diesem Extrem passieren. Wie notwendig bleibt die Kontinuität in der kulturellen Entwicklung?

Bleiben wir bei dem obigen Beispiel einen „Folder“ auf eine „CD“ zu brennen. Vor hundert Jahren versteht niemand diese Aufforderung. Und selbst, wenn mit diesem Wunsch eine Anleitung für die Herstellung einer CD und eines CD-Brenners beigefügt wäre, ist es nicht möglich, diese Anforderung umzusetzen. Es fehlt nicht nur die Einbettung in das Wissen, sondern auch die Umgebung, die z.B. die Herstellung der Geräte ermöglicht. Ganz zu schweigen davon, dass es auch erst einmal einen „Computer“ geben müsste, auf dem ein solcher „Folder“ wäre, der dann auch noch etwas beinhalten würde, was es zum „Brennen“ gäbe.

Nicht nur technisch, auch kulturell ist eine solche Einbettung und die daran gebundene Kontinuität der Entwicklung notwendig. Beispielhaft gefragt: in welchem Jahr hätten die Beatles ihre Karriere starten können und hätten die gleiche Popularität erlangt, die wir heute kennen? 1254? 2456? 5?

Buchdruck war auch einmal ein Schreckgespenst

Diese Skepsis gegenüber neuen Technologien findet sich auch in der Geschichte des Buchdrucks, der im 15. Jahrhundert fast verboten worden wäre, weil man befürchtete, dass er mehr Schaden als Nutzen bringe. Klingt vertraut, oder? Vielleicht ist unsere Angst vor KI genauso unbegründet wie die vor dem Buchdruck. Oder ist es doch anders?

Ist die Angst vor KI also einfach nur der altbekannte Kulturpessimismus, der bei jeder technischen Innovation aus den Untiefen unserer Gewohnheiten auftaucht? Michael Townsen Hicks und seine Kollegen stellen in ihrem Artikel „ChatGPT is Bullshit“ genau diese Frage. Denn sie weiß nicht was sie tut.

In der Werbung für Knack und Back in den 1980ern hieß es schon: „Ich hab’s gemacht!“

Da spricht nicht die menschliche Kontrolle, sondern der Stolz. Micz (Flo nicht so richtig) ist der Meinung: wir sollten versuchen uns mit dem Prozess so tief zu verbinden, dass das Ergebnis noch immer „unseres“ ist.

Micz zitiert hier das berühmte „Add One Egg“-Prinzip aus der Dokumentation „Century of the Self“ (siehe Shownotes).