088 – „Das Auge des Meisters“ von Matteo Pasquinelli

Das Buch, das Nils uns in dieser Episode vorstellt, führt einige Stränge zusammen, die uns schon seit längerem in diesem Podcast begleiten: von der Digitalisierung der Arbeit über KI und den Kapitalismus bis hin zur Kritik am westlichen reduktionistischen Weltbild:

In „Das Auge des Meisters“ zeichnet der italienische Philosoph Matteo Pasquinelli eine Kulturgeschichte der künstlichen Intelligenz – oder besser der Automatisierung der Arbeit. Er betont dabei die enge Verbindung zwischen sozialen Formen der Arbeitsteilung und deren Automatisierung und weist darauf hin, dass Automatisierung eine Akkumulation von Wissen im Sinne der marxschen Theorie ist. Dies gilt umsomehr für die aktuellen Entwicklungen im Bereich der künstlichen Intelligenz.

Shownotes

• ZZD086: „Regeln“ von Lorraine Daston
• ZZD082: „Demokratie ohne Gesetze“ von C. L. Skach
• ZZD081: „Unterwerfung“ von Philip Blom
• ZZD079: „Der Allesfresser“ von Nancy Fraeser
• ZZD078: „Der Code des Kapitals“ von Katharina Pistor
• ZZD064: „Web of Meaning“ Jeremy Lent
• ZZD059: „Todesalgorithmus“ von Roberto Simanowski
• ZZD022: „Natural Born Cyborg“ von Andy Clark
• ZZD018: „Muster“ von Armin Nassehi
• ZZD017: „Hello World“ von Hannah Fry

• Buch: „James“ von Percival Everett
• Buch: „Die Abschaffung des Todes“ von Andreas Eschbach
• Buch: „Über Kriege und wie man sie beendet“ von Jörn Leonhard
• Buch: „Über soziale Arbeitsteilung“ von Emile Durkheim
• Buch: „Zusammenarbeit“ von Richard Sennett

• Podcast „Hard Fork“ von der New York Times
• Podcast: „Tech wont save us“
• Newsletter: „Blood in the machine“ (Newsletter)
• Artikel: „What Is ChatGPT Doing … and Why Does It Work?“ von Stephen Wolfram

Transkript (automatisch erstellt)

Music:
[0:00] Music

Christoph:
[0:16] Herzlich willkommen zu Folge 88 von Zwischenzweideckeln, eurem Sachbuch-Podcast. Ich bin Christoph und habe heute Nils mit dabei.

Nils:
[0:24] Hallo zusammen.

Christoph:
[0:26] Wir haben im Vorbildgeplänkel uns überlegt, ob die Folge als Folge 88 erscheinen soll oder als 87 plus 1 oder 89 minus 1 oder irgendwie so. Aber wir haben gesagt, wir haben auch Folge 18 einfach so gemacht und deswegen geht auch die jetzt einfach so durch. Aber unsere politische Verortung im Groben und Ganzen kennt ihr ja. Von daher ist es einfach die stringente Durchnummerierung, die wir jetzt schon relativ lange durchhalten. Und ich freue mich, dass ihr wieder zuhört. Und meine erste Frage geht an dich, Nils. Das kennst du schon. Was treibt dich gerade um? Womit beschäftigst du dich? Was macht das Leben?

Nils:
[0:58] Ja, das Leben hat mich gerade mit meiner zweiten Runde Corona beschert. Das war so letzte Woche so ein bisschen das Dominierende. Da bin ich jetzt aber mittlerweile gefühlt wieder raus. Nur falls meine Stimme noch so ein bisschen belegt klingt, wisst ihr, wo es herkommt. Genutzt habe ich die Zeit, um ein bisschen zu lesen. Ich bin tatsächlich ein bisschen eingestiegen ins Manga-Lesen, paradoxerweise. Da gibt es sehr, sehr spannende, sehr, sehr coole Geschichten. Gerade lese ich To Your Eternity. Das ist irgendwie die Geschichte von einem Geistwesen, das irgendwie unterschiedliche Körperformen annehmen kann und so langsam lernen muss, Mensch zu werden und mit all den Emotionen, die man als Mensch hat, umzugehen und klarzukommen. Sehr, sehr spannend. Übrigens eine Empfehlung irgendwo online mal vor Jahren von einer meiner Lieblingsautorinnen, Ada Palmer. Den Namen habt ihr von mir bestimmt auch schon das ein oder andere Mal gehört. Genau, das ist so das, was mich beschäftigt. Und als Gelegenheitscomputerspieler freue ich mich natürlich gerade über Civilization 7. Da werde ich jetzt diese Woche, die ich Urlaub habe, hoffentlich auch mal Gelegenheit haben, ein paar mehr Stunden reinzustecken.

Christoph:
[2:04] Genau. Ja, da wünsche ich dir viel Spaß bei. Ich weiß nicht, wie die Kritiken die ersten so ausgefallen sind, aber ich bin mit Civ irgendwie nie so warm geworden. Ich war immer eher so Team-Siedler und halt irgendwie, also es war mir zu rundenbasiert, glaube ich.

Nils:
[2:20] Ja.

Christoph:
[2:20] Vielleicht dann auch zu kleinteilig in den Entwicklungslinien und so. Also das war irgendwie nicht immer so meins.

Nils:
[2:26] Ja, die Mischungen, die Rezensionen sind sehr gespalten, weil Civ 7 macht was, was Computerspieler fordern immer, aber nicht mögen. Nämlich das macht viele Sachen neu und anders. Und gleichzeitig nicht so super polished. Also schon von den Systemen, von den Mechaniken her sehr gut, aber noch nicht so bis ins letzte Detail immer ganz perfekt. Und das fällt dann natürlich auf viel Kritik, die wahrscheinlich bei einem anderen Spiel, wo nicht dieser Name dran steht, erst mal niemanden gestört hätte. Aber so ist es halt.

Christoph:
[2:58] Ja, also ich wünsche viel Spaß auf jeden Fall. Ich kann da kurz einwerfen. Ich wusste nicht, dass wir diese Parallele haben. Ich habe letztes Jahr das erste Mal einen Manga gelesen. Ich habe mich ja ein bisschen mit dem asiatischen Brettspiel Go beschäftigt und da gibt es die Manga-Reihe Hikaru no Go über einen Jungen in Japan, der das alte Go-Brett seines Großvaters findet und darüber mit einem ehemalig erfolgreichem Go-Spieler, der als Geist weiterlebt, in Kontakt tritt und Go ist eigentlich total langweilig bei den jungen Menschen und darüber Begeisterung für das Spiel findet. Und halt quasi so einen cleveren Geist dann im Kopf hat, der die immer mit ihm spielen will. Und ja, so erkunden sie das Spiel. Das habe ich gelesen.

Nils:
[3:51] Ah, cool.

Christoph:
[3:53] Genau.

Nils:
[3:54] Was beschäftigt dich?

Christoph:
[3:57] Einerseits sind es Renovierungen. Ich glaube, ich habe es in der letzten Folge schon gesagt. Ich glaube, da war das gerade auch aktuell. Meine Großtante musste umziehen und da habe ich mitgeholfen. Und dann hat ein sehr guter Freund eine sehr verwinkelte Wohnung mit sehr hohen Decken, die direkt unterm Dach ist. Also sehr, sehr viele absurde Schrägen in höchsten Höhen. Und die haben wir letztes Wochenende gestrichen. Mit solchen Dingen treibe ich mich rum. Und ansonsten lese ich gerade über Kriege und wie man sie beendet von Jörn Leonhardt. Das Buch ist, glaube ich, aus 2022, 23. Ich weiß es nicht genau, weil ich so das Gefühl habe, eine theoretische Beschäftigung damit, wie Kriege enden, wäre mal vielleicht angebracht. Von dem habe ich in letzter Zeit auch ein paar Podcasts gehört, in denen er eingeladen war. Und genau, ansonsten habe ich gerade noch einen sehr guten Roman, den ich lese. Das ist James, heißt der, von Percival Everett. Und da geht’s, also es ist quasi die Geschichte von Huckleberry Finn, aber aus Perspektive von Jim, dem Sklaven, erzählt und geschrieben. Das ist ziemlich gut, muss ich sagen. Bis hierhin zumindest. Ich habe ein Drittel oder so durch. Genau, das sind die Sachen, die mich umtreiben. Ja, du hast uns heute mitgebracht, das Auge des Meisters von Matteo Paschinelli, Wie man hört, ist der ein Italiener. Du hast mir im Vorgespräch gesagt, er kommt aus der italienischen marxistischen Tradition.

Nils:
[5:23] Ja, zumindest bezieht er sich ganz stark auf sie.

Christoph:
[5:25] Okay, na gut, dann zumindest das. Und er ist Philosoph. Und im Vorhinein ist irgendwie, also deine Recherche hat zu einem anderen Ergebnis geführt als meine. Also Nils hat herausgefunden, dass er an der Sarfuskari-Universität in Venedig lehrt oder arbeitet und da offenbar in einem Projekt für KI-Modelle drin ist. Und bei mir ist rausgekommen, dass er Professor für Medienphilosophie an der Hochschule für Gestaltung Karlsruhe ist. So oder so ist er irgendwie mit seiner Forschung, womit er sich beschäftigt, so an der Schnittstelle zwischen kognitiver Wissenschaft, digitaler Wirtschaft und maschinellem Lernen, Wissenschaftstheorie, so der Einschlag. Also genau, ich glaube, wenn ich es richtig verstanden habe, wird es heute um KI gehen und wenn du magst, gib uns doch eine Kurzzusammenfassung.

Nils:
[6:17] Ja, herzlich gerne.

Nils:
[6:23] In das Auge des Meisters zeichnet italienische Philosoph Matteo Pasquinelli eine Kulturgeschichte der künstlichen Intelligenz oder besser eine Kulturgeschichte der Automatisierung der Arbeit. Er betont dabei die enge Verbindung zwischen sozialen Formen der Arbeitsteilung und deren Automatisierung. Er weist darauf hin, dass Automatisierung eine Akkumulation von Wissen im Sinne der marxischen Theorie ist. Dies gilt umso mehr für die aktuellen Entwicklungen im Bereich der künstlichen Intelligenz.

Christoph:
[6:53] Vielen Dank. Ich habe vergessen zu erwähnen, dass das Ganze im Unrast Verlag erschienen ist, auf Deutsch zumindest, und das letztes Jahr, 2024. Genau, von daher, wenn du möchtest, starte gerne in die komplette Buchvorstellung.

Nils:
[7:07] Gerne. Auf Englisch ist es im Verso Verlag erschienen, wem das was sagt. Das ist ja auch nicht ganz unbekannter, etwas linkerer Verlag sozusagen. Und das merkt man dem Buch auch an, sagen wir es mal so. Ihr werdet merken in der Vorstellung das schicke ich vielleicht vorweg das Buch ist inhaltlich sehr sehr spannend ich habe ganz viele Sachen daraus gelernt ganz viele Sachen daraus mitgenommen es ist aber nicht wirklich gut darin seine übergreifende Argumentation irgendwie rauszuarbeiten oder deutlich zu machen oder klar zu machen das heißt ganz viel von dem was ich euch jetzt so als den übergreifenden Bogen schildere ist nicht immer unbedingt explizit in dem Buch auch so angelegt Sondern es ist eher so der Versuch, da einen Bogen reinzubringen in die vielen sehr spannenden Einzelgedanken und Zusammenhänge, die Pass-Queen Nelly da aufzeigt. Aber es ist jetzt ja auch so, dass gerade so die linke marxistische Theorie nicht unbedingt dafür berüchtigt ist, gut lesbare Bücher zu schreiben. Das haben wir hier ähnlich, wobei es jetzt an sich lesbar ist. Es ist jetzt nicht irgendwie begrifflich, irgendwie eine gigantische Schlacht oder so. Im Fehlt so ein bisschen der übergreifende Bogen.

Christoph:
[8:23] Nils hat im Vorhinein darauf hingewiesen, dass das natürlich für die Vorbereitung des Podcasts nicht so trivial war, aber unser Format jetzt noch mehr Mehrwert quasi relativ zum Buch gesehen für euch bietet, weil Nils die Argumente für uns extrahiert hat.

Nils:
[8:37] Ja, genau, so ungefähr. Das schicke ich vorweg, weil das auch dann was damit zu tun hat, was eigentlich das Ziel des Buches ist, was das ganze Buch macht. Pasquinelli sagt nämlich, dass es ihm in der Einleitung, dass es ihm ganz stark darum geht zu zeigen, dass die Einführung von KI, dass die ganz viel mit Messung und Kontrolle von Arbeitnehmern und Arbeitern zu tun hat. Das macht er auch irgendwie in dem Buch, aber ich habe das eigentlich den Eindruck, er macht noch viel mehr und das, was er sagt mit der Quantifizierung und der Kontrolle, das ist eigentlich nur so ein Nebenaspekt er sagt aber, das sei der Hauptaspekt und das, gut, ja, das kann er gerne so sagen ich habe noch mehr daraus mitgenommen, nämlich das, was ich gerade im TLDL auch schon angedeutet hatte dass es ganz stark um das Verhältnis von Arbeitsteilung und Automatisierung geht Und dass es auch ganz stark um die Ideengeschichte der künstlichen Intelligenz geht. Also dessen, was wir heute künstliche Intelligenz nennen, formulieren wir es vielleicht mal so.

Christoph:
[9:36] Darauf bin ich besonders gespannt, weil ich da wirklich völlig blank bin. Für mich ist das so ein bisschen, okay, ChatGPT kam 2022 oder so raus in so allgemein verfügbarer Form und dann musste man halt mal so nacharbeiten. Aber genau, für mich ist es erst so ein kurzfristiges Phänomen in meiner Lebenswelt, von daher bin ich da sehr gespannt.

Nils:
[9:59] Und ja und nein, ich meine, Dinge, die sich KI nennen, kennen wir auch schon seit ein paar Jahren. Also auch ChatGPT war jetzt technologisch, zumindest softwaretechnisch, nicht die gigantische Revolution, sondern es hat mal jemand geschafft, genug Ressourcen draufzuschmeißen und ein vernünftiges Produkt rauszudrehen. Die grundlegenden Technologien und Ideen sind alle schon gar nicht so neu.

Christoph:
[10:18] Ja, haben wir auch schon vorher hier im Podcast ja auch schon verhandelt. Eben, das stimmt.

Nils:
[10:24] Genau, also wir fangen erstmal an mit dem Begriff Algorithmus oder auch Pasquinelli fängt mit dem Begriff Algorithmus an und schickt erstmal was vorweg, was eigentlich ganz wichtig ist, weil den Begriff Algorithmus habt ihr jetzt in der politischen Diskussion und kriegt man immer wieder mit, die Algorithmen bestimmen, was wir tun und so weiter und so fort. Es ist irgendwie nicht auszuweichen, dem Begriff aktuell, aber Pasquinenisch sagt eigentlich, wir haben eigentlich gar nicht so genau klar, was das ist. Was ist eigentlich ein Algorithmus? Und was aber noch viel wichtiger ist, als das, was genau ist das eigentlich, ist, dass er sagt, das ist überhaupt nichts Neues. Das haben wir schon seit Jahrhunderten in der einen oder anderen Form.

Christoph:
[11:11] Muss man sich dafür gedanklich sehr verrenken, um das nachvollziehen zu können, oder ist das intuitiv plausibel?

Nils:
[11:17] Das finde ich intuitiv sehr plausibel, gerade weil das auch nachher seine Argumentation stark aufbaut. Er sagt halt, also wenn man Algorithmen so als Vereinbarung darüber, wie bestimmte Abläufe ablaufen, sozusagen versteht, was ja sicherlich auch eine verteidigbare Position sozusagen an diesem Thema ist, dann unterscheidet er drei Arten von Algorithmen. Dann hat er nämlich einmal sowas wie soziale Algorithmen, dann formale Algorithmen und dann automatisierte Algorithmen. So, das gucken wir uns mal ganz kurz an. Soziale Algorithmen sind einfach nur Dinge, wo sich irgendwelche Gruppen oder irgendwelche, ja, am einfachsten macht man es am Produktionsunternehmen, da bleibt das Beispiel auch nachher konsistent, wo sich irgendwie darauf geeinigt wird, wir machen das jetzt so, erst machst du das, dann mache ich das, dann machst du wieder das, dann machst du das und wir sozusagen so einen Ablauf haben, der über mehrere Personen geht, die sich irgendwie absprechen, wer was macht, damit dann am Ende im Beispiel irgendwie ein bestimmtes Produkt rauskommt oder ein Klinik. Kind betreut ist oder was auch immer. So, ne? Als soziale Absprache zwischen Menschen, die das irgendwie dann so machen. Sei es entweder, weil sie es wirklich sich hinsetzen und absprechen oder weil es einfach die Routine ist, die Tradition und es schon immer so gemacht wurde.

Nils:
[12:31] So. Das ist ein sozialer Algorithmus im Grunde. Wie funktionieren bestimmte Dinge, wie organisiert sich irgendwie eine soziale Gruppe? Dann hat er die formalen Algorithmen. Das sind im Grunde Algorithmen, die man auf Papier schreiben kann. Also klassisch ist eine mathematische Formulierung. Wenn ich da irgendwie eine Formel draus machen kann oder irgendwie eine Formel draus machen kann oder irgendwie auf Papier bringen kann, dann formalisiere ich ihn. Zum Beispiel auch in Gesetzen oder in Verfahrensanweisungen habe ich in gewisser Weise auch Algorithmen verortet. Da muss ich jetzt zum Beispiel ganz viel an Webers Bürokratie-Theorie denken, wo bestimmte Abläufe einfach, jetzt machst du das und dann geht die Akte dahin und dann passiert da das und dann passiert da der Schritt und dann hat das den Status und dann geht das dahin. Auch das ist eine Art von Algorithmus in gewisser Weise. Und dann kommt im Grunde der dritte Schritt, das ist dann die Automatisierung. Das heißt, das automatische Ablaufen dieser Algorithmen, ohne dass da Menschen noch irgendwie groß daran beteiligt sind. Und das ist jetzt schon so der erste Punkt, wenn ich mich recht entsinne, macht er das gar nicht explizit, aber für mich war das relativ offensichtlich, dass da auch eine historische Entwicklung zu beobachten ist. Weil das auch eigentlich eine seiner Kernthesen nachher wird, dass jeder Algorithmus auf der sozialen Ebene anfängt. Dann formalisiert wird und dann automatisiert wird.

Christoph:
[13:52] Ja, okay, ja.

Nils:
[13:54] Klingt ja auch erstmal irgendwie sehr logisch. Was daran wichtig ist, was sich daraus ergibt, das ist im Grunde eine zweite Perspektive, dass diese Algorithmen oder auch jede Abstraktion, also ein Algorithmus ist in gewisser Weise eine Abstraktion, weil es etwas Konkretes nimmt und irgendwie in so eine allgemeine Form zu gießen versucht. Und das betont er eben genau, dass sich jede Abstraktion aus etwas Konkretem ergibt und in einem Konkretes. konkreten historischen Kontext steht. Das heißt, irgendwie ein Algorithmus, der jetzt formal entwickelt wurde, kommt nicht aus dem Nichts und steht nicht irgendwie außerhalb jedes Kontextes für sich alleine, sondern er kommt aus etwas ganz Konkretem und ist halt auch aus einem bestimmten Grund irgendwie entstanden und entwickelt worden. Pasquinelli geht halt sogar so weit zu sagen, dass es am Ende immer darum geht, physische oder mentale Arbeit zu sparen dabei.

Christoph:
[14:53] Ja, okay, auf dem abstrakten Level dann ja sowieso, aber ich meine, das, was wir jetzt so kennen und im Alltag nutzen, also diese ganzen, diese bisschen cleveren Textantwort-Ausspuckmaschinen, die sind ja jetzt erstmal nicht so spezialisiert. Also die sind ja deutlich allgemeiner gehalten. Also sie sind natürlich keine offensichtlich allgemeinen Intelligenzen. Es ist keine General-KI. Aber weißt du, was ich meine?

Nils:
[15:20] Ja, also soweit ist er an der Stelle noch gar nicht. Er ist tatsächlich jetzt eher noch so irgendwie im 19. Jahrhundert bei der Industrialisierung. Aber zudem, jein, also man muss bei diesen LLMs, also Large Language Models, das was wir heute mit dem TGPT und so, was wir KI nennen in der Diskussion heute ganz oft, ganz klar sagen, die sind in gewisser Weise allgemein, als dass sie zu jedem Thema irgendwas fabrizieren können. Die sind aber im Kern doch wieder hochspezialisiert. Die sind nämlich hochspezialisiert darauf, plausibel wirkende Texte zu produzieren.

Christoph:
[15:53] Ja, das stimmt natürlich.

Nils:
[15:55] Also das merkt man bei denen auch, sobald die rechnen sollen. Aktuellen Modelle sind irgendwann so clever, sie erkennen eine Rechenaufgabe und lassen einfach einen normalen Rechenalgorithmus drauf los, anstatt dass das LLM da drauf geht. Aber das LLM selber kann nicht rechnen. Also da gab es ja auch mal so diese Themen, wie viele R sind im Wort Strawberry oder so.

Christoph:
[16:18] Das hat mich völlig kaputt gemacht. Ich konnte es gar nicht glauben. Ich habe es dann selber auch gefragt und dachte, das funktioniert ja wirklich nicht. Was soll das?

Nils:
[16:26] Da kommen wir nachher zu, aber weil das System eben nicht versteht. Das weiß nicht, was ein R ist und dass das Wort Strawberry ist. Es generiert einfach einen Antworttext, wie die Textvervollständigung am Handy, der den Text nach dieser Frage plausibel fortsetzt. Ja. So, und da hat das nichts mit der eigentlichen Frage zu tun, inhaltlich. Da kommen wir aber tatsächlich im zweiten Teil des Buches dann auch ein bisschen zu, weil da steckt eine ganz spezielle ideengeschichtliche Entwicklung hinter. Genau, jetzt habe ich schon gesagt, er macht dann im Anschluss an diese kurze Einleitung zwei Teile. Historisch relativ klar abgrenzbar auf 19. Jahrhundert, 20. Jahrhundert. Also industrielle Revolution und Informationszeitalter nennt er die beiden, Aber faktisch ist es irgendwie so die Grenze so in den 20ern, 30ern des 20. Jahrhunderts. Und er geht im Grunde von derselben Stelle aus, die ich auch schon in meinem Podcast zu Regeln von Lorraine Dest vorgestellt habe, nämlich dem ersten Computer oder der ersten automatisierten Rechenmaschine, muss man ja genauer sagen. Das war die Difference Engine von Charles Babbage. Und ich erzähle die Geschichte jetzt nochmal, weil vielleicht nicht jeder von euch den Regel-Podcast von Lorraine Destin oder über Regeln von Lorraine Destin gehört hat.

Nils:
[17:48] Es gab im, ich bin jetzt in den Jahrhunderten verrutscht, aber es müsste, glaube ich, Ende des 18. Jahrhunderts gewesen sein, gab es den großen Plan, oder für astronomische Berechnungen braucht man gigantische Logarithmentabellen. Also wirklich bücherweise hunderte von Seiten, tausende von Seiten Tabellen mit Logarithmen, die berechnet werden mussten. Und was man da gemacht hat, ist eben, man hat eine Rechenmethode gefunden, diese Logarithmen zu berechnen, die nur auf Summen und Differenzen basiert, die also relativ einfach zu berechnen ist. Und dann hat man diese Aufgaben, diese tausenden Aufgaben sozusagen über hunderte Leute im ganzen Land verteilt, die dann nach diesem einfachen Rechenverfahren einzelne Rechenschritte sozusagen dieser Berechnung durchgeführt haben. Für die man halt nur addieren und subtrahieren können musste und nicht halt tatsächlich irgendwie Logarithmen berechnen.

Nils:
[18:43] Und das war auch schon bei Destin, so ein paar Skrini, die sieht das auch so, das war im Grunde so die Geburtsstunde des Computers. Diese Art, so eine intellektuelle Aufgabe, eine Berechnung von Logarithmen auf einen einfacheren Prozess runterzubrechen und den dann irgendwie dezentral auszulagern, auf Arbeitskraft, die nicht so viel können muss, formulieren wir es mal neutral. Das ist aber ein ganz wichtiger Punkt, sowohl bei Destin als jetzt auch hier bei Pasquinelli, dass eben diese Arbeitsteilung, diese Aufteilung auf die Menschen es Babbage überhaupt erst ermöglicht hat zu sagen, okay, jetzt haben wir diese Aufteilung auf die Menschen geschafft, jetzt können wir die Menschen automatisieren. Jetzt können wir diese

Nils:
[19:27] Weniger anspruchsvolle Arbeit, die die Menschen machen können, die können wir jetzt automatisieren und daraus ergibt sich dann am Ende diese logarithmisierte Berechnung. Das heißt, es ist nicht, das ist der zentrale Punkt von Pasquinelli, vielleicht der zentrale Punkt des ganzen Buchs, es kommt nicht erst die technische Idee, so können wir das automatisieren und jetzt automatisiere ich das, sondern es kommt als erstes die soziale Form der Arbeitsteilung, die soziale Organisation und dann wird diese soziale Organisation automatisiert. Das heißt, die Technik geht sozusagen der sozialen Innovation nach und nicht voraus.

Christoph:
[20:06] Okay, ja, finde ich plausibel.

Nils:
[20:10] So, das ist natürlich, wenn man das jetzt überträgt auf sämtliche Innovationsdebatten so nach dem Motto, ja hier, die Technologie treibt die Innovation voran. Da würde Pasquinelli eben sagen, halt stopp, es ist andersrum. Die Technologie läuft der Innovation hinterher, die Innovation kommt aus dem gesellschaftlich-sozialen Bereich. Die Technologie sucht sich dann nur die Stellen, wo sie irgendwie einhaken kann, wo sie gerade die Möglichkeiten hat für Automatisierung, für Verstärkung und so weiter und so fort. Das ist so einer der Kernpunkte, glaube ich, des ganzen Buchs, zu dem wir jetzt schon relativ früh schon kommen.

Nils:
[20:49] Das heißt,

Nils:
[20:52] Dass wir hier die Entwicklung des Computers, also jetzt hier Charles Babbage, den ich in dem Buch jetzt nicht erwartet hätte, erstmal von dem, wie ich das Thema hatte, und auch Ada Loveless, die ja eng mit ihm zusammengearbeitet hat. Ada Loveless war dann diejenige, die erkannt hat, man kann nicht nur sagen, also die Differenz-Engine von Charles Babbage, das war diese erste Maschine, die hat dann dieses eine konkrete Verfahren in Hardware kodiert und umgesetzt. In gewisser Weise. Das heißt, diese Maschine konnte nur genau das. Und Ada Loveless war dann diejenige, die die Idee hatte, dass man im Grunde auch einem Computer sagen kann, dass er was anderes tun soll. Dass er nicht nur dieses eine erfahren kann, sondern dass man ihm irgendwie sagen kann, jetzt rechne an der Stelle mal Minus und nicht Plus. So, dass man da eben diese Trennung von Hardware und Software, die uns heute relativ selbstverständlich ist, die ist im Grunde da entstanden in dieser Interaktion zwischen den beiden.

Nils:
[21:44] So, das vielleicht noch als historische Einordnung. Also jetzt sind wir also in der Situation, dass wir in der industriellen Revolution genau da sind, dass wir immer mehr Formen haben, wo eben Arbeit erstmal arbeitsgeteilt wird und auf eine Manufaktur oder auf eine quasi industrielle Produktion umgestellt wird mit kleinen Arbeitsschritten, die irgendwie automatisiert werden und die dann automatisiert werden können. Das haben wir ja in der Zeit, das haben wir auch Anfang des 20. Jahrhunderts, das haben wir auch über das 20. Jahrhundert immer weiter gehabt, also das endet erstmal nicht so direkt der Prozess und jetzt sind wir an diesem Punkt,

Nils:
[22:25] Und wenn wir uns das jetzt angucken, dass Produktion, also Dinge zu produzieren, ja, Auto ist ein schlechtes Beispiel, weil das wurde im 20. Jahrhundert erst angefangen, aber irgendwelche Wagenräder, Eisenbahnen oder ähnliches zu produzieren, braucht Wissen und Expertise. Ich kann nur etwas produzieren, sei es automatisiert oder nicht automatisiert, wenn ich das entsprechende Wissen habe, die entsprechende Erfahrung habe, die entsprechende Expertise habe. Das braucht es einmal auf der Führungsebene, bei den Vorarbeitenden oder später dann eben auch auf der planenden Ebene, die ja erst entstanden ist später. Und aber natürlich besonders bei den Mitarbeitenden. Und die Automatisierung ist dann, da kommen wir jetzt wieder zu einem Marxischen Begriff, im Grunde so etwas wie eine ursprüngliche Akkumulation. So, das ist jetzt auch wieder ein Begriff, den wir uns erstmal angucken müssen. Es gibt im Griff der ursprünglichen Akkumulation, der wird meistens darauf bezogen, dass Dinge, die früher Gemeingut waren, wie zum Beispiel Land oder wie Ressourcen, die halt irgendwie im Boden lagen, die gehören ja erstmal keinem. Ursprüngliche Akkumulation ist in der, ich meine es ist in der marxistischen Theorie der Moment, wo die jemandem zugeschlagen wurde. Wo jemand sagen wird, okay diese Kohle gehört jetzt mir.

Nils:
[23:43] Und genau so und diese Person dann darüber verfügen könnte, das kontrollieren konnte und genau so sieht Pasquinelli in der Automatisierung eben die Akkumulation von Wissen. Das heißt, wenn ich auf einmal eine Maschine habe, die einen Teppich produzieren kann, dann brauche ich das Wissen der Arbeitenden nicht mehr in der Form beziehungsweise ich habe es hier und dann kann ich es kontrollieren. Ich kann sagen, wird es jetzt eingesetzt, wird es nicht eingesetzt. Wer darf es nutzen? Das liegt nicht mehr bei den Personen selbst. Und das gibt einen ganz, ganz wichtigen Punkt, weil das eben genau diese Form der Arbeit, diese arbeitsteilige Produktion, die praktische Routine, die ganz viele Leute haben, in den konkreten Arbeitsschritten irgendwie Dinge zusammenzubauen, Teppich zu weben, was auch immer, als auch die soziale Form, in der das vorher organisiert wurde, weil es die im Grunde auflöst und in die Maschine packt. Und damit aber auch den Arbeitern wieder unzugänglich macht. Weil die es nicht mehr machen müssen, weil die es nicht mehr lernen müssen, lernt sie es eben auch nicht mehr und dann verschwindet das Wissen sozusagen aus der Arbeiterschaft und bleibt nur noch in dieser Maschine versteckt.

Christoph:
[24:55] Ja, ist ja auch das Bedrohungsszenario im Prinzip bei Berufssubstituierungen, also es ist wirklich genau das, also dieses euer Wissen wird dann irrelevant, sobald wir es automatisieren können und in eine irgendwie geartete Maschine packen können.

Nils:
[25:16] Ja, es geht sogar noch weiter, man lernt das halt auch nicht mehr. Das ist so ein Thema, was beim Thema KI zum Beispiel, wenn jetzt irgendwie KI irgendwelche Texte schreibt oder irgendwelche Beratung durchführt und man dann sagt, ja, dann brauchst du halt einen Menschen, der nochmal drauf guckt, ob das auch stimmt, ist richtig, keine Frage, da will ich überhaupt nicht bestreiten, aber woher lernen denn die Menschen, was gute Texte sind und gute Beratung sind, wenn die einfachen Sachen von der KI gemacht werden?

Christoph:
[25:41] Ja, das geht dann verloren.

Nils:
[25:44] Ja klar Also diese Verbindung macht Pasquenelli zum Beispiel nicht explizit auch wenn sie für mich offen auf der Hand liegt an der Stelle

Christoph:
[25:50] Ist ja auch bei, je nachdem wann mal wirklich autonomes Fahren kommt und diese, Assistenzsysteme ist das ja glaube ich, also das scheint mir mit die gefährlichste Variante zu sein dass wir alle also was einfach Unfall-Szenarien und so angeht, dass du, dich zu sehr auf die automatisierten Systeme verlässt, deswegen selbst nicht mehr gut fahren kannst und im Zweifel, wenn die KI versagt, eben nicht mehr gut eingreifen kannst.

Nils:
[26:16] Genau, exakt. Und genau das gibt es im Grunde an jeder Stelle, wo das zu viel automatisiert wird. Das ist exakt der Punkt. Was wir dann auch haben, ist wir haben eine Spaltung in der Arbeiterschaft zwischen dem, was im Englischen gerne White Collar und Blue Collar genannt wird oder bei uns Das ist vielleicht Wissensarbeit und physische Arbeit oder so.

Nils:
[26:44] Und dann hat das dazu geführt, das war tatsächlich auch eine bewusste Strategie wohl, wenn ich das richtig verstanden habe, auch wenn das jetzt eher aus der Marxischen Theorie kommt, also wie sehr das empirisch abgesichert ist, ist natürlich immer schwer zu sagen. Wo sich dann auch diese Spaltung ergeben hat zwischen White und Blue Collar, diese Abgrenzung und wo es dann eben auch gelungen ist White Collar nicht länger als Arbeit im engeren Sinne anzusehen also White Collar im Sinne von das sind die, die irgendwelche Produktionsprozesse planen Management, Verwaltung und so weiter und so fort, die nicht jetzt die eigentlich physische Arbeit machen, sondern das drumrum und die Planung und die Konzeption dass das nicht als Arbeit angesehen wird und auch nicht Teil des Klassenkampfes ist.

Nils:
[27:32] Das sehen wir ja jetzt auch, wenn wir auf gewerkschaftliche Durchdringung und sowas gucken in verschiedenen Bereichen, dann ist das im Produktionsbereich trotz allen Rückgangs immer noch deutlich höher, als wir das in Dienstleistungs- oder in der klassischen Wissensarbeit im Grunde haben. Da ist Pasquinelli, finde ich nicht so ganz eindeutig, ob er einen Grund dafür sieht. Ich habe so ein bisschen das Gefühl, an einer Stelle sagt er, Marx hat mal irgendwann gedacht, es ist einfacher, wenn wir uns auf die Blau- und die Blue-Collar konzentrieren und deswegen hat er die White-Collar rausgeschmissen. Und das setzt sich im Grunde bis heute fort. Talking about kleine Entscheidungen, große Wirkung. Aber das könnte tatsächlich ein Grund sein, warum wir bis heute, was wir gerade angesprochen haben, in der Wissensarbeit eine wesentlich geringere Durchdringung, was Gewerkschaften und so weiter angeht.

Christoph:
[28:20] Es sind im Prinzip Es gibt ja auch Arbeitsformen, die genuin weniger kollektivistisch sind. Ja. In dem Sinne, dass sie stärker individualisiert sind. In deinem Erleben bist du, glaube ich, Teil einer Organisation meistens, aber nicht Teil einer Arbeiterinnenschaft, die gemeinsam in Schichtbetrieben und so immer wieder das Gleiche abruft und wiederholt und ja dann auch sehr, sehr offensichtlich ist, dass du im Kern durch die anderen prinzipiell ersetzbar bist, weil die anderen genau, also jemand löst ja deinen Betriebsschritt am Ende deiner Schicht ab. Ja. Und macht genau das, was du vorher gemacht hast, auch weiter. Also ich glaube, und das hast du dann in Berufen wie deinem oder meinem sicherlich deutlich weniger.

Nils:
[29:11] Wobei das vielleicht auch ein Thema der Betriebsgröße dann an der Stelle ist. Weil es halt nicht so viele, weil der Bedarf danach nicht so groß ist, dass es nicht so viele Leute gibt, die das könnten. Also ich bin bei dir im Erleben, ist es definitiv so, ganz klar. Wobei ich mir da auch nicht sicher bin, ob man da nicht aus unserer Perspektive was projiziert. Weil das Glauben heißt, jetzt kommt der nach mir, der kriegt da wieder nicht hin, dann muss ich das nachher wieder reparieren, weil die Sachen zurückkommen oder so. Ich glaube, so Prozesse gibt es da auch.

Christoph:
[29:38] Also ich glaube, du hast auf jeden Fall diese Kollektivstrukturen deutlich stärker. Also im Handwerk haben wir auch keine hohe gewerkschaftliche Organisation und trotzdem ist es keine Wissensarbeit in dem Sinne.

Nils:
[29:51] Ja gut, aber da würde, das ist aber eben die nicht automatisierte Produktion würden, das ist ja genau der Punkt, das ist ja im Grunde so ein bisschen der Vorsprung, also der Vorzustand, wobei das ist vielleicht noch wichtig zu sagen, es wird ja oft so, gegen der automatisierten Produktion wird so dieses begnadete Kunsthandwerk gegenübergestellt, so der begnadete Handwerker. Das ist nicht das Bild, was Pasquinelli von der Arbeit vor der Automatisierung hat, also geht es da schon wie heißt es, Mindful Hand also das heißt, es geht schon um eine Routine und um gewisse Erfahrungen in bestimmten Produktionsschritten aber es geht nicht um eine quasi künstlerische Handwerkskunst so in dem Sinne sondern um eine Produktionsroutine dass man das eben einfach machen kann also das wird auch die die Stopfarbeit in Heimarbeit von irgendwelchen Kleidungsstücken oder sowas ist damit auch gemeint. Wo eben ganz viel Praxis, Routine, Erfahrung und Wissen reinfließt in die unmittelbare Produktion, ohne dass es ist, ich mach jetzt hier den goldenen Tisch für den König.

Nils:
[31:01] Das ist vielleicht auch noch wichtig, diesen Gegenpol klar zu machen, dass das hier nicht so eine idealisierte Handwerksform ist, sondern es schon um eine echte Produktionsform geht, die er da im Vorhinein sieht. Und dann erfolgt eben genau diese Trennung, dass ich in der Arbeiterschaft immer weniger dieses Wissen und diese konkrete Erfahrung brauche, weil die sich eben in der Maschine sozusagen akkumuliert.

Nils:
[31:25] Und damit, das ist jetzt der letzte Punkt im Grunde aus diesem Abschnitt zur industriellen Revolution, wird die Arbeit im Grunde zur reinen Rechengröße. Weil ich die Arbeit ganz einfach automatisieren kann, also Energie reingeben kann im Grunde, mit Dampfmaschinen oder mit Strom. Und da spielt die Kohle eine ganz große Rolle, weil mit der Kohle kann ich die Arbeit auf einmal sogar berechenbar machen. Ich weiß hier, für diesen Arbeitsschritt oder für diesen Tag Fabrik brauche ich so und so viel Tonnen Kohle. Punkt. Und dann ist Arbeit, physische Energie, nichts anderes mehr als eine Rechengröße. Ob das jetzt Kohle ist, ob das jetzt Strom ist, ob das jetzt Öl ist, was diese Energie liefert, ist letztendlich für die Arbeit erstmal egal, vor irgendwelchen Preis- oder Umwelteffekten oder so. Was viel wichtiger ist, ist das Wissen, dass eben in den Maschinen

Nils:
[32:20] Akkumuliert ist, eben die Produktionsfaktoren. Das ist, glaube ich, ein ganz wichtiger Punkt, den man sich hier nochmal klar machen muss, dass das wohl auch bei Marx, zumindest in früheren Texten, das kommt wohl in seinen späteren, bekannteren Texten nicht mehr so raus, aber das, und das jetzt auch wieder erstaunlich aktuell wird, diese Akkumulation von Wissen in einzelnen Maschinen, in einzelnen Systemen, dass die letztlich auch eine Gefahr für Kapitalismus darstellt. Weil sie eben so sehr wenn man es einmal geschafft hat dann ist es für andere noch schwerer dagegen anzustinken und das ist jetzt was was wir ja genau bei kannst

Christoph:
[33:01] Du das nochmal genau erklären also.

Nils:
[33:02] Wir sind jetzt in der Situation dass Arbeit sehr einfach zu automatisieren ich kaufe Kohle, packe die in eine Dampfmaschine und dann habe ich die Energie da die Frage ist was mache ich mit dieser Energie und wenn ich es einmal schaffe dieses Wissen aus den Menschen rauszuholen, in eine Maschine zu packen. Während andere das nicht schaffen, dann habe ich denen gegenüber natürlich einen massiven Wettbewerbsvorteil. Weil ich über dieses Wissen auf einmal unabhängig von den Arbeitenden verfügen kann. Und das ist jetzt ein Phänomen, was wir beim aktuellen KI-Thema wieder sehen. Wo wir ein paar große Modelle haben, die es geschafft haben, die behaupten es geschafft zu haben, dieses Wissen in welcher Form auch immer in sich zu ziehen. Und jetzt natürlich versuchen andere auch daran zu hindern und das weiter abzusichern. So, da haben wir auch einen schönen Bezug zum Jogpoint-Capitalism von Cory Doctorow, den ich auch gar nicht in meiner Liste habe für nachher.

Nils:
[33:58] Genau, also das ist so ein bisschen der Punkt, den wir hier haben. Wir haben diese Akkumulation von Wissen und in Maschinen, in Automatisierung, die auf einmal zum zentralen Wettbewerbsfaktor im Grunde im Kapitalismus wird und gar nicht mehr so sehr das Thema Arbeit. Wer hat mehr Arbeitskräfte oder wer hat die besseren Arbeitskräfte oder so, das ist aus dieser Perspektive erstmal weniger wichtig. Wichtiger ist, wer hat die besseren Maschinen, möglicherweise. Was sich aus dieser Perspektive dann entwickelt, ist die Idee der Kybernetik. Da geht es darum, komplexe Systeme zu kontrollieren und zwar, in denen Menschen und Arbeiter irgendwie ineinander interagieren. So ein ganz klassisches Bild, so ein Produktionsablauf, wie man ihn sich klischeehaft vorstellt. kommt aus der Maschine raus, der Arbeiter legt das dann rüber auf die Maschine, dann wird in der Maschine das gemacht und dann geht das weiter, also die klassische Fließbandproduktion im Grunde, wie man sie sich vorstellt. Das ist der erste Abschnitt zur industriellen Revolution. Da ging es vor allen Dingen um diese Idee, dass die Automatisierung der sozialen Arbeitsteilung nachgelagert ist und dass wir eben in Maschinen im Grunde eine Monopolisierung, eine Akkumulation von Wissen im Grunde verankert haben. So, jetzt kommt das Informationszeitalter, in dem er nichts von diesen Argumenten wirklich aufgreift, was ich sehr schade finde. Er macht jetzt eine komplett neue Argumentationslinie im Grunde auf, die an sich auch wieder spannend ist, die er aber nicht so richtig mit der ersten verbindet und verknüpft und zeigt, wie spielt das jetzt zusammen.

Christoph:
[35:27] Das ist schade.

Nils:
[35:28] Das werde ich jetzt in meiner Vorstellung so ein bisschen versuchen zu machen. Genau, wir haben also diese Idee der Kybernetik. Kybernetik heißt klassische Idee. Es gibt im Grunde die klassische terroristische Produktion. Es ist jemand da, der den Produktionsprozess plant. Und dann sind da diejenigen, die nur noch wie belebte Roboter im Grunde die einzelnen Arbeitsschritte nacheinander ausführen. Was wir jetzt aber haben, ist, dass sich im Laufe des 20. Jahrhunderts zu Anfang in den 30er, 40er Jahren, Mitte, Ende der 40er Jahre, ein neues Paradigma entsteht. Und zwar so ein bisschen als Reaktion auf die Veränderungen der Kommunikationsstruktur. Also wenn man ins 19. Jahrhundert guckt, da steht sozusagen diese Idee der Dampfmaschine im Zentrum, die irgendwie in einem zentralisierten Punkt ist, aus dem irgendwie Energie kommt und diese Energie muss dann irgendwie kontrolliert und genutzt werden.

Nils:
[36:31] Kommt im 20. Jahrhundert immer mehr, oder auch Ende des 19. Jahrhunderts, das sind natürlich immer so fließende Übergänge und Überlagerungen und so, nehmt das jetzt bitte nicht als harte Grenzen, aber kommt immer mehr so ein bisschen diese Idee des Netzwerkes auf, weil Pasquinelli bezieht das so ein bisschen aus der Idee der Kommunikationsnetzwerke, weil Telegrafen immer relevanter werden, weil immer mehr so ein Netzwerk von dezentralen Positionen besteht, die irgendwie miteinander interagieren, und was sich daraus dann ergibt, ist das Paradigmen der Informationsverarbeitung. Also dass es im Grunde nicht mehr darum geht, Energie zu steuern, sondern Informationen zu verarbeiten. Und genau dieser Schritt… Den wir gerade auch schon hatten. Und da entsteht dann irgendwann die Grundidee, oder auch aus der Hirnforschung, die Idee der Neuronen. So dieses Grundgedanke. Es gibt Schaltungen oder Punkte, die für sich sehr einfach funktionieren. So ein Neuron ist an sich erstmal nicht komplex im engeren Sinne. Es funktioniert relativ einfach. Es lässt sich relativ einfach bauen. Aber weil sehr viele davon nach bestimmten Regeln miteinander interagieren, entsteht halt irgendwie was Neues.

Christoph:
[37:47] Ja.

Nils:
[37:48] Das ist so ein bisschen die Grundidee. Und aus dieser Grundidee ergeben sich dann zwei Herangehensweisen. Wie man Wissen oder Lernen automatisiert. Also jetzt geht es nicht mehr darum, Produktion zu automatisieren, sondern Wissen zu automatisieren. Also diesen Teilaspekt von Produktion oder den Wissenserwerb zu automatisieren. Da gibt es einmal den sogenannten Symbolismus und den Konnexionismus. Und das ist tatsächlich auch ein Kontrast, den wir heute in der KI-Diskussion noch wiederfinden. Der Symbolismus ist im Grunde der Gedanke, ich bilde die Welt in Symbolen ab und operiere dann auf diesen Symbolen. Das heißt Beispiel

Christoph:
[38:37] Also die verschiedentlichen Verdopplungen der Welten die wir schon so erlebt haben.

Nils:
[38:42] Ja aber auf eine bestimmte Art der Verdopplung also beides in gewisser Weise Verdopplung Konnexionismus auch sondern es geht im Grunde darum zu sagen ich versuche durch eine bestimmte Verknüpfung von also es gibt dieses schöne Beispiel was von KI was bei KI genannt wird König minus Mann plus Frau gleich Königin oder König minus Mann gleich Herrschaft diese Logik zu denken, es gibt so Eigenschaften in der Welt Symbole in der Welt, die sind da und die interagieren nach bestimmten Regeln miteinander das ist eng verbunden mit der Gestalttheorie wo es eben darum geht zu sagen wir sehen nicht Einzelteile und schließen darauf auf das Ganze sondern wir sehen im Grunde erst das Ganze und entwickeln daraus irgendwie einen Bezug, also eine klassische Frage Ihr kennt das Beispiel vielleicht, es gibt so eine Zeichnung von einem Dreieck, wo gar nicht das Dreieck gezeichnet ist, sondern nur so die drei Ecken so angedeutet. Und dann sind die Linien, sind aber gar nicht durchgezogen, sondern da sind Lücken. Und trotzdem sehen wir ein Dreieck. Das ist so ein Beispiel der Gestalttheorie, weil das wie ein Dreieck aussieht. Deswegen ist das ein Dreieck. Auch wenn es eigentlich Dreiecken sind, die nicht miteinander verbunden sind. Wir nehmen es trotzdem als Dreieck wahr. Das ist so ein bisschen der Gedanke, wir haben diese ganzen Einheiten, die wir als solche wahrnehmen.

Nils:
[40:08] Und im Grunde ist das auch, wenn man will, so ein bisschen, wenn wir uns auf einen logischen Begriff überziehen, die deduktive Logik. Wir haben so das Ganze und daraus schließen wir dann auf kleinere Teile.

Christoph:
[40:19] Okay, also ist damit aber nicht, sind nicht so Emergenz-Phänomene gemeint. Im Sinne von, ist doch gemeint?

Nils:
[40:26] Was meinst du genau? Entschuldigung, jetzt bin ich viel zu ehrlich eingegangen.

Christoph:
[40:28] Mit Emergenz, ich denke, also mein Lieblingsbeispiel für Emergenz ist ein Bildhauer, eine Bildhauerin guckt auf seinen ihren Block Marmor, schaut da drauf und sieht vor dem geistigen Auge dann schon die Figur, die er sie da rausschlagen möchte. Also die Figur emergiert quasi aus dem Block, aus dem man schöpft. Und vor allen Dingen auch, also für mich ist Emergenz auch stark mit Spontanität verknüpft.

Nils:
[40:59] Also diese Art von Emergenz würde ich jetzt tatsächlich eher auf die Gestalttheorie sehen. Es gibt ja auch diese Art von Emergenz, so wenn viele Leute eine Sache machen, dann entsteht irgendwie was Großes daraus. Weil wir alle jetzt irgendwie auf X rumhängen oder rumgehangen sind, entstand daraus irgendwie so ein großes globaler Marktplatz der Informationen. Das ist ja auch so ein bisschen Emergenz, das wäre dann eher Konnexionismus. So bei ist, halt immer darum geht, welche Ebene betont man. Also der Symbolismus geht jetzt eher davon aus, okay, es ist relevant, dass X, ehemals Twitter, dieser Marktplatz ist. Wie das jetzt unten genau mit der Interaktion aussieht und so, das ist gar nicht so relevant. Dieser Marktplatz ist da.

Christoph:
[41:45] Okay.

Nils:
[41:46] Und es ist dieser Marktplatz. Oder es ist die Königin. Ob die jetzt, wie genau das darunter aussieht, ist gar nicht so wichtig. Und die Gesellschaft. Also im Grunde immer diese Emergenz im Sinne von, wir haben eine höhere Ebene, irgendwie viele kleine Teile ergeben was Ganzes und der Symbolismus würde in dem Moment jetzt, zumindest wie Pasquinelli Ihnen vorstellt, sagen, uns ist wichtig, dieses Ganze abzubilden und diesem Ganzen seine eigene Logik zuzustreiben, also das, was man im Bereich der Emergenz starke Emergenz nennen würde. Das Ganze ist mehr als die Summe seiner Teile, um es jetzt mal salopp zu schrecken. Da gibt es in den Konnexionismus, da geht es im Grunde darum, im Kern zu sagen, das Ganze ergibt sich aus seinen Teilen. Da geht es darum, ich finde statistische Muster und operiere mit denen. Ich operiere nicht auf der Ebene der Symbole, Königin, sondern ich operiere auf der Ebene des statistischen Muster, wie das auch zum Beispiel heutige KI tut oder heutige LLMs zumindest tun, die nicht sagen, das ist die Königin, sondern das ist ein Begriff, der taucht oft im Kontext so und so, so und so auf. Er taucht oft mit weiblichen Artikeln oder Adjektiven auf und so ein Begriff ist das.

Nils:
[43:08] Also das ist der Unterschied, wo es darum geht, in Einzelteilen Muster zu erkennen und mit diesen Mustern dann im Grunde zu arbeiten. Also im Grunde eine induktive Vorgehensweise. Ich gucke erst auf die Mikroebene und suche nach Mustern in der Mikroebene und das ist dann meine Makroebene. Und der Symbolismus anerkennt eher, dass diese Makroebene tatsächlich nochmal was anderes ist mit eigenen Regeln und eigenen Eigenschaften. So, das ist so ein bisschen der Gedanke. Und da findet tatsächlich schon in den 40er Jahren im Grunde ein Wechsel statt, nämlich vom Symbolismus zum Konnexionismus. Dass wir weniger darauf gucken, okay, was ist das Konzept des Königs im Hirn, sozusagen, sondern wir gucken eher, okay, welche Neuronen feuern da und gibt es da eventuell Muster? Und aha, wenn wir an Herrschaft denken, dann feuern so ungefähr diese Regionen. Ja, das ist so ein bisschen der Gedanke. Und daraus ergibt sich dann eben auch ganz schnell ein klassisches KI-Thema, das ist nämlich das Thema der Bilderkennung. Das kennen wir ja auch schon in Weilchen. Nämlich aus, ich habe hier irgendwie so Daten von einem Sensor und jetzt will ich daraus irgendwie berechnen, was ist das? Wenn wir Menschen gucken, wir sehen ein Auto und wir erkennen durch den groben Umriss und durch den Kontext und durch die Gestalt erkennen wir, das ist ein Auto.

Nils:
[44:33] Moderne KI funktioniert so nicht, die hat ja nicht diesen Blick, diesen optischen. Die hat irgendwie Sensorik-Daten und muss dann daraus irgendwie schließen, das könnte ein Auto sein.

Nils:
[44:46] Weil sie diesen Blick auf die Gestalt nicht hat. Oder sich ihre eigene Gestalt baut, könnte man vielleicht auch sagen. Wenn man so weit gehen wollen würde. Und das ist tatsächlich auch der Weg, den KI schließlich gegangen ist. Und das ist so ein bisschen der Punkt, der Pasquinelle wichtig ist, dass es irgendwann nicht mehr darum geht, wirklich das Funktionieren des Gehirns nachzubilden, sondern kollektive Intelligenz einzufangen und kontrollierbar zu machen. Also ich will nicht mehr wirklich gucken, wie funktioniert das Gehirn und das nachbilden, also einzelne Neuronen schrauben und gucken und verknüpfen und so weiter und so fort. Und auch wenn das heute neuronale Netze heißt, haben die in ihrer Anlage nicht mehr viel damit zu tun, wie unser Gehirn funktioniert, auch wenn da auch Neuronen miteinander vernetzt sind. Das ist vielleicht auch noch eine begriffliche Unschärfe. die sich mittlerweile in die Debatte eingeschlichen hat. Also das Funktionieren eines solchen neuronalen Netzwerks hatte relativ wenig mit dem zu tun, wie unser Hirn tatsächlich funktioniert. Es nutzt nur eine ganz ähnliche Grundidee.

Christoph:
[45:48] Spannend. Ich finde, es ist ein schönes, also wenn wir über soziale Evolution sprechen, sind gerade diese Large Language Models ein schönes Beispiel für so konvergente Evolution. Also sie kriegen so gut hin, uns zu vermitteln, dass sie die Welt so begreifen, wie wir das tun, obwohl sie das offensichtlich nicht tun, rein vom Funktionsprinzip her. Aber in der alltäglichen Benutzung ist das ja völlig irrelevant und ich finde, man kann das sehr schnell verdrängen, gerade wenn es um Sachen geht wie Replika-AI, wenn du deine eigene Partnerin da erstellst oder du ChatGBT als TherapeutIn nutzt, ob das jetzt bis in alle Feinheiten perfekt ist oder nicht und wünschenswert ist und so. Aber dass es zumindest erstmal von der Grundidee her so gut funktioniert, ist ja schon wirklich beeindruckend.

Nils:
[46:43] Aber das ist ein guter Punkt, den macht Pasquinelli auch ganz am Ende nochmal, dass die ganze Arbeit dieser Systeme eben nicht irgendwie auf objektive Standards setzt, sondern genau auf das, was du gerade gesagt hast. Das, was die Menschen wahrnehmen. Es agiert nicht mehr darauf, wenn man aufs Essen guckt, es agiert nicht mehr auf die Ebene, gibt es mir wirklich die Nährstoffe, die ich brauche? Und so weiter und so fort. Sondern es setzt auf, schmeckt es mir. Und dass das ja auseinandergehen kann, sieht man, glaube ich, gerade im Ernährungsbeispiel sehr deutlich. So, jetzt haben wir uns so ein bisschen auf die informationstheoretische Grundlage von KI geguckt.

Nils:
[47:24] Und da bleibe ich jetzt noch mal ganz kurz, das geht jetzt weiter, das macht wieder Pasquinelli nicht ganz explizit, aber dass wir mit KI im Grunde dann letztlich genau das zu versuchen zu automatisieren, dass wir versuchen die Automatisierung zu automatisieren im Grunde, also dass wir nicht nur sagen, wir automatisieren jetzt die Produktion, sondern wir automatisieren sogar die Planung von Produktionen. Und die Automatisierung von Produktionen, was nachher gar kein Mensch mehr irgendwas damit zu tun hat. Und damit natürlich noch mal wieder eine andere Form von Wissen, nämlich das Wissen über die Automatisierung, dann auch noch wieder eingefangen wird. Sozusagen. Die Frage, wie viele Schritte nach oben das jetzt geht, wie viele schleifen das sozusagen, die Automatisierung der Automatisierung der Automatisierung und so. Aber da ist die Technologie, so wie sie jetzt behauptet zu sein, zumindest erstmal grundsätzlich nicht begrenzt. Weil sie jetzt eben halt nur noch auf Wissen arbeitet und das Wissen über das Wissen ist halt auch immer noch Wissen

Nils:
[48:22] So, also da haben wir auch nochmal so einen Punkt und was sich eben auch etabliert, das hattest du aber auch schon angesprochen sind so Standards maschineller Intelligenz also das ist auch ein Thema, wenn man über KI im Arbeitsumfeld redet dass man immer fragen muss, wer ist eigentlich hier unter Rechtfertigungsdruck? Der Mensch, wenn er was anderes macht, als die KI behauptet oder die KI wenn sie was anderes macht, als der Mensch behauptet so Klassiker, ich muss irgendwie eine Entscheidung treffen und das Computersystem sagt mir, du musst Nein sagen, ich mache meine Erfahrung, sage ich aber Ja und das geht dann schief und dann werde ich nachher angeranzt dafür, du hast nur Ja gesagt, die KI hat doch Nein gesagt. Jetzt rechtfertige dich mal. In Zukunft werde ich dir wahrscheinlich nicht mehr widersprechen. Nicht, weil ich weniger Recht gehabt hätte oder weil es tatsächlich falsche Entscheidung war oder so, sondern einfach, weil ich den sozialen Druck auf einmal bekomme, der nicht zu widersprechen. Oder es riskant wird für mich, der zu widersprechen. Das ist, glaube ich, auch nochmal ein ganz wichtiger Punkt. So, also das ist so dieser KI-Gedanke. Jetzt kommen wir noch zum zweiten Phänomen, dieses Idee der Informationsverarbeitung, der dezentralen Informationsverarbeitung, wie wir sie mit den Neuronen angelegt haben. Und da taucht schon wieder ein Name auf, den ich an der Stelle nicht erwartet hätte, nämlich Friedrich von Hayek. Der sagt dem einen oder der anderen vielleicht auch was, ähm …

Nils:
[49:41] Aus der ökonomischen Theorie, das ist so ein marktliberal-libertärer Philosoph gewesen, der gerne herangezogen wird. Es gibt ja die Hayek-Gesellschaft, die da ganz aktiv ist in Deutschland. Ich glaube, ich bin in Österreich, aber ursprünglich nicht mehr gewesen. Der war tatsächlich von Anfang an an diesen ganzen auch neurowissenschaftlichen Debatten sehr stark beteiligt und auch bei relevanten Symposien und Konferenzen wohl anwesend. Und er hat diese Idee dann übertragen auf die Gesellschaft, beziehungsweise auf die Gestaltung, die Planbarkeit, die Kontrollierbarkeit von Märkten. Weil er nämlich gesagt hat, wenn wir so einen gesellschaftlichen Markt irgendwie haben, da hat keiner vollständig die Information. Der Markt an sich hat keine übergeordnete Gestalt. Der besteht aus tausenden, zehntausenden, hunderttausenden von täglichen Interaktionen auf verschiedenen Ebenen und ergibt sich daraus ein bisschen Emergenz. Und du ahnst jetzt schon vielleicht, worauf das hinausläuft.

Nils:
[50:45] Aber Hayek sagt dann eben auch, dass in diesen vielen Informationen, die in den vielen Transaktionen liegen, dass daraus sich dann im Grunde eine übergeordnete Bedeutung, eine übergeordnete Berechnung ergibt. Ihr kennt so eine Art so ein gesellschaftliches Bewusstsein, das irgendwie dann arbeitet und für sich selber arbeitet. Und so groß ist das, dass es mit Computern im Grunde nicht einzufangen ist, weil es eben nicht nur ein einzelnes Gehirn ist, sondern irgendwie hunderttausende Menschen, die da miteinander interagieren. Und da kommt zum Beispiel diese ganze Idee her, das war, mittlerweile ist es nicht mehr ganz so groß, aber das war, ich glaube so, in den 2000er Jahren war das ein großes Thema, so Informationsmärkte, wo man irgendwie darauf wetten konnte, ob bestimmte Dinge passieren und dann war irgendwie so, kannst du irgendwie 20 Euro darauf setzen, dass jetzt der die Wahl gewinnt oder 15 Euro, dass jetzt der die Wahl gewinnt und dann wird das nicht als Wette genutzt, so nach dem Motto, dass man damit Geld verdient, sondern aus diesen Sätzen wird quasi Information abgeleitet. Weil jetzt auf diesen Märkten sich zeigt, dass mehr Leute darauf setzen, dass Person A gewinnt als Person B gewinnt, heißt das, dass es wahrscheinlicher ist, dass Person A gewinnt als Person B gewinnt.

Christoph:
[51:55] Das ist jetzt so richtig gefährliches Halbwissen, aber in meiner Erinnerung waren das auch ganz gute Modelle, die sich daraus ergeben haben, oder? Also die waren einfach nicht schlecht in gesellschaftlichen Prognosen, oder?

Nils:
[52:06] Also über die Qualität, die waren nicht offensichtlich katastrophal schlecht. Wobei ich weiß auch nicht, ob sie systematisch gut waren. Da kann ich jetzt nichts zu sagen. Es gab immer mal wieder so einzelne Highlights im Grunde davon, dass das irgendwie super toll war. Wobei ich nie weiß, wie viele Fälle es gab, wo das halt eigentlich voll daneben gelegen hat. Und man halt nur von denen gehört hat, wo es super toll war. Das ist halt jetzt im Rückblick, wenn man sich da nicht tief reinbegibt, schwer zu sagen. Aber genau, das ist auf jeden Fall, aber da steckt genau dieser selbe Informationsverarbeitungsgedanke hinter. Und Hayek hat das dann eben weitergetragen, so nach dem Motto, dass dieser Markt im Grunde keine Fehler machen kann und so. Da kommen wir dann in so eine normative Diskussion da will ich jetzt gar nicht rein aber das ist glaube ich hier auch nochmal eine wichtige Parallele und nochmal eine wichtige Beobachtung, dass diese Idee die entstammt nicht der Beobachtung ökonomischer Phänomene

Nils:
[52:59] Hayek hat sich nicht Ökonomie angeguckt und gesagt, das passiert da und so und dann ergibt sich und jetzt sehen wir hier an dem Beispiel und so, sondern er hat diese neurobiologische Idee gesehen und hat dann gesagt oh ich modelliere den Markt mal so ja und das ist auch wieder hier, das ist glaube ich so der wichtigste Punkt, den Pasquinelli hier macht, dass wir hier eine Übertragung von Ideen aus Bereichen in andere Bereiche haben, die gar nicht erstmal aus den Bereichen heraus gerechtfertigt ist und die auch heutzutage gar nicht mehr in der Form bekannt ist. Wo dann halt gesagt wird, ja, wir übertragen jetzt diesen Gedanken da rein und jetzt ist das so. Aber wir wissen ja eigentlich gar nicht, ob das in dem Markt tatsächlich so ist. Der Markt wird halt so gestaltet, als wäre es so. Und dann wird das natürlich auch in gewisser Weise zu einer selbst erfüllenden Prophezeiung.

Nils:
[53:46] Genau. So, das war der Ritt. Durch das Buch. Es ist am Ende irgendwie so unbefriedigend, weil er das nicht zusammenzieht. Also, wir haben das ja schon so ein bisschen angedeutet mit dem Thema KI heute, als Versuch jetzt tatsächlich eben auch das Wissen der White-Collar-Worker sozusagen zu automatisieren und zu capturen, dass wir jetzt heute natürlich dann auch in dem Bereich auf einmal eine höhere gewerkschaftliche Organisation sehen. Zumindest in den USA hat man das jetzt im Bereich der Drehbuchautor internen Synchronsprecher und so hat man das zum Beispiel erlebt dass da auf einmal eine Mobilisierung stattfindet weil genau diese Capture von Wissen auf einmal droht die vorher eher aus dem physischen Bereich bekannt war, die wir jetzt aber eben auch in der Wissensarbeit oder in der weitesten Sinne Wissensarbeit im Grunde beobachten können, also da wären glaube ich noch viele, ein guter Übertrag irgendwie möglich gewesen. Ich weiß nicht, ob er das mal irgendwann in Interviews oder in weiteren Artikeln gemacht hat. Da habe ich jetzt nicht nachgesucht.

Christoph:
[54:45] Naja, aber es gehört ja in so ein Buch ein. Unabhängig, wo er das sonst noch getan hat.

Nils:
[54:51] In dem Buch fehlt es mir auf jeden Fall. Aber das sind für mich so ein bisschen diese vier Kernpunkte, vielleicht nochmal zusammenzufassen. Erstmal diese Idee, dass die soziale Form der Automatisierung vorausgeht und nicht die technische Innovation. Dann haben wir diese Idee, dass Automatisierung im Grunde eine Akkumulation von Wissen darstellt, also den Arbeitern jetzt in der industriellen Revolution ihr Wissen raubt und es in die Maschine packt, dass nicht mehr sie davon profitieren, sondern der Inhaber, die Inhaberin der Maschine. Dann haben wir eben dieses neue Paradigma der Selbstorganisation, was dann eigentlich aus der Hirnforschung kommt, aber dann sowohl in die Informationstechnologie als auch in die Marktgestaltung im Grunde übertragen wurde und keineswegs so selbstverständlich oder notwendig sich daraus ergibt, wie es uns das heute erscheint. Das waren im Grunde so ein bisschen die Kerngedanken und dann eben der Schritt dazu, dass KI im Grunde nochmal dieses Element ist, dass wir eine industrielle Revolution mit der physischen Arbeit hatten, was wir jetzt eben immer mehr in der Wissensarbeit sehen. Genau. Das war der Ritt durchs Buch.

Christoph:
[55:57] Vielen Dank. Thema Zusammenbinden, Argumentationsstränge abschließen und so. Vielleicht hilft es euch, wenn ihr in andere Folgen von uns reinhört, weil ich glaube, wir haben mittlerweile schon ein paar Dinge, die irgendwie mehr oder minder lose vernetzt sind zum Thema. Vielleicht, weil es schon 2019 erschienen ist und das Buch und das so ein schnelllebiges Feld ist, zumindest erlebe ich das so ich habe in Folge 17 Hello World von Hannah Fry vorgestellt, wo es eben auch um Algorithmen geht und wie sie eingesetzt werden können und so weiter Hannah Fry ist Mathematikerin, es lohnt sich sehr ihr auf verschiedensten Kanälen zu folgen sie macht hervorragende Videos vor allen Dingen auch, und ich glaube der Kontrast kann ganz spannend sein, wenn man jetzt das Buch aus 2024 24 gehört hat und sich dann einmal anhört, wie vor fünf Jahren das Thema behandelt wurde. Dann haben wir in Folge 59, ich meine das hat Holger vorgestellt oder Amanda, ich weiß es nicht, aber Todesalgorithmus von Roberto Simonovski, in dem Buch geht es ein bisschen um die Frage von unserem Verhältnis als Mensch, Menschheit, wie auch immer, zu KI, also Todesalgorithmus bezieht sich auf autonomes Fahren. Dann, weil wir über ursprüngliche Akkumulation gesprochen haben und wie das eigentlich verteilt wird, dachte ich, wäre der Code des Kapitals von Katharina Pistor, Folge 78, vielleicht auch ganz spannend, weil es so um die rechtliche Durchdringung der Welt geht und wann Eigentumstitel eigentlich wie verteilt wurden.

Christoph:
[57:24] War jetzt in dem Buch nicht so drin, aber das ganze Thema Energieverbrauch, KI und ja, wie breitet sich Kapitalismus eigentlich in der Gesellschaft aus und frisst er alles auf? Ist in Folge 79 verhandelt, der Allesfresser von Nancy Fraser. Das finde ich spannend, weil halt auch das ganze, also auch das Thema, wie wirkt sich KI auf unsere demokratischen Systeme aus, finde ich, ist einfach sehr relevant. Und daran anschließend, Demokratie braucht aktive BürgerInnen, ist das auch bei KI so, brauchen wir einen vielleicht reflektierteren Umgang, Demokratie ohne Gesetze, Folge 82.

Christoph:
[58:05] Ja, und dann habe ich noch mehrere Hinweise. Zum einen den Podcast Hard Fork von der New York Times. Hat einen sehr, also einfach einen Silicon Valley Fokus und probiert die Dinge, die sich da entwickeln zu beobachten und das hängt dann ja stark mit unserem Thema heute zusammen und will sich mit Zukunftsthemen beschäftigen, finde ich, ist immer mal ganz gut. Ich höre nicht jede Folge, aber lohnt sich im Prinzip, weil wir über Arbeitsteilung gesprochen haben. Ein soziologischer Klassiker ist von Emil Dürkheim über soziale Arbeitsteilung im Sokabem Verlag, weil wir über Neuronen nachbilden und so gesprochen haben und wie die funktionieren. Ich erinnere mich noch ganz dunkel. Ich glaube, das Blue Brain Project ist aus 2005, glaube ich. Und da hat man so, in meinem Verständnis, da war ich dann zwölf, das erste Mal probiert. Da war so die Idee groß, wir bauen ein Gehirn nach. Und daher dann werden wir, also wenn wir das richtig gut hinkriegen, dann muss das ja so funktionieren wie ein menschliches Gehirn auch oder irgendein Gehirn. Genau, und sich das nochmal anzuschauen, ist glaube ich ganz spannend. Ja, und dabei belasse ich es. Der letzte Reling passt doch nicht.

Nils:
[59:15] Schon eine gute Menge. Ja, ich habe ja schon eben in der Vorstellung immer mal wieder Querbezüge gemacht zu meiner letzten Episode, ich glaube es war die Episode 86 zu Rules von Lorraine Destin. Oder Regeln. Ich finde, es passt auch sehr gut zu meiner Folge davor, Unterwerfung von Philipp Blom, wo es ja um dieses Kontrollnarrativ im Grunde ganz stark geht. Also generell diese drei Bücher, die lesen sich perfekt zusammen und Pasquinelli zitiert tatsächlich sogar Destin in seinem Buch. Ah ja, spannend, sehr gut. Gerade mit dieser Anfangsgeschichte zu Gaspar de Pony und Charles Babbage, da bezieht er sich tatsächlich auch auf sie. Dann habe ich tatsächlich noch so ein bisschen diese Folge Web of Meaning von Jeremy Lent. Auch wieder so ein bisschen allgemein diese Perspektive auf die Welt, so wir kontrollieren die Welt, wir zerteilen sie, wir zerlegen sie, wir automatisieren sie, so ein bisschen als Grundideologie der westlichen Wissenschaftler, des westlichen Lebens. Dann haben wir die enge Verbindung zwischen Mensch und Technologie Natural Born Cyborg von Andy Clark in Episode 22 wo es auch immer ganz stark eben um die Interaktion von Mensch und Technologie geht ist als Buch ein bisschen älter ich glaube das Ende der 90er vielleicht Anfang der 2000er aber auch da sehr sehr spannend und gut zu lesen und dann haben wir noch Muster von Amin Nasehi stimmt das hattest du ja auch mal schon angedeutet dass es da so um diese Verzwillingung der Welt im Grunde geht das ist tatsächlich ein Aspekt den wir hier auch haben.

Christoph:
[1:00:42] Das ist ein klassisches systemtheoretisches Argument. Auch Buchdruck und so sind alles Verdeplungen der Welten.

Nils:
[1:00:48] Das haben wir in Episode 18 vorgestellt. Ein weiteres Buch habe ich noch, weil wir das Thema Zusammenarbeit hatten oder auch soziale Form von Arbeit. Das ist von Richard Sennett. Sein Buch Zusammenarbeit, das habe ich auch mal gelesen, ist aber schon ziemlich lange her und war vor diesem Podcast. Ich erinnere mich aber noch, dass ich es sehr gerne und mit sehr viel Gewinn gelesen habe damals, wo es eben genau auch um Zusammenarbeit, sowohl in der Produktion aber auch im allgemeinen gesellschaftlichen ging.

Nils:
[1:01:16] Ein Buch als Roman, den ich tatsächlich gerade gelesen bzw. Gehört habe, der einfach gut passt, weil er auch dieses Thema Automatisierung von Gehirn und Abbildung von Gehirn irgendwie aufgreift und dabei gleichzeitig modern und spannend zu lesen ist, ist der neueste Roman von Andreas Eschbach, Die Abschaffung des Todes. Das ist Popcorn-Kino, bei dem man ein bisschen was lernt, um es mal salopp zu formulieren. Wenn ihr euch ein bisschen mehr für das Thema KI und vor allen Dingen KI-Kritik interessiert, hat sich mittlerweile dann doch eine gar nicht so kleine Community online entwickelt, die sich selber tatsächlich als Luddites, also Luditen bezeichnen. Das ist auch eine Protestbewegung, ich glaube aus dem 18., 19. Jahrhundert gegen die Automatisierung, gegen die Industrialisierung, die eben genau diesen Aspekt in den Mittelpunkt gerückt haben, nicht im Sinne von, wir wollen die Maschinen nicht, das wird ihnen ja heute oft vorgeworfen, das sind so die Luditen, die wollen keine Automatisierung, das stimmt nicht, was sie wollten ist, sie wollten von der Automatisierung auch profitieren. Also da geht es genau um diesen Akkumulationsaspekt im Grunde zu sagen, halt stopp, ja, das ist unser Wissen, das ist unsere Erfahrung, die wir hier einbringen, die hier in dieser Maschine steckt, wir wollen da auch von profitieren und nicht nur du, der dem die Maschine gehört. Das ist ein großes Missverständnis wohl über diese Bewegung und entsprechend gibt es heute auch wieder ein bisschen eine Bewegung, da gibt es unter anderem einen sehr guten Podcast, Tech World Savers der da tatsächlich sehr empfehlenswert ist,

Christoph:
[1:02:44] Wenn man den hört, kriegt man glaube ich die, ja den habe ich auch schon mal mitbekommen.

Nils:
[1:02:47] Kriegt man die wichtigsten Linien und Kritikformen auf jeden Fall mit und ich habe jetzt noch ein Newsletter den ich seit ein paar Wochen lese Blood in the Machine oder Blood in the Machinery, ich weiß es gerade nicht, der auch in dieselbe Richtung geht, den man da abonnieren kann. Und wer sich so ein bisschen für das Funktionieren von KI interessiert, also von den modernen LLMs, wie die technisch funktionieren, da gibt es einen sehr langen, aber sehr guten und ich will nicht sagen leicht verständlichen, aber für die Komplexität und die Tiefe, die er erreicht, relativ leicht verständlichen Artikel von Stephen Wolfram.

Nils:
[1:03:22] Auf Englisch ist er, glaube ich, kostenlos, auf Deutsch ist er, glaube ich, bei Golem hinter einer Firewall, hinter einer Paywall, den werde ich nochmal verlinken, also da lernt man tatsächlich ein bisschen, wie diese LLMs funktionieren, was für Statistik dahinter steckt, wie die bestimmte Sachen hinkriegen, also was ich gerade sagte, warum sowas tatsächlich, LLMs können sowas zum Teil, dass sie sagen, König minus Mann plus Frau gleich Königin, sowas können die tatsächlich zum Teil abbilden, warum die das können und wo das herkommt und warum das nichts damit zu tun hat, dass sie verstanden haben, was das ist. Das ist der entscheidende Punkt. Das ist einfach nur, Also in dem Fall könnte man salopp sagen, König und Königin tauchen in Texten immer im ähnlichen Kontext auf. Bei einer Königin sind nur häufiger weibliche Artikel und Adjektive drumherum als bei einem König. Und deswegen ergibt sich sozusagen diese Rechenmöglichkeit. So, salopp formuliert, aber guckt da gerne mal rein, wie ihr euch da ein bisschen vertieft interessieren wollt. Ein bisschen mathematische Vorbildung, schade dafür, aber definitiv nicht. Genau, das war’s. Und meine Lesetipps, die kommen natürlich in die Show Notes.

Christoph:
[1:04:30] Sehr gut. Ein Video, was überhaupt nicht so kompliziert ist dann, also vielleicht, wenn ihr nicht so deep-diben wollt, ich fand es neulich ganz gut und habe erst spät verstanden, wer es eigentlich hergestellt hat, ist das Video AI is Dumber Than You Think, von dem Technikgerätehersteller Nothing. Die haben eh einen ganz spannenden YouTube-Kanal. Also die gehen irgendwie sehr transparent mit ihren Produkten um und zeigen auch, was sie wo bei Apple abgekupfert haben. Android-Apple-Vergleiche und so und für wen es was wohl besser und es wirkt alles so gar nicht so biased. Naja, und die haben auf jeden Fall auch ein Video zur Funktionsweise von KI.

Nils:
[1:05:10] Das ist bestimmt spannend. Das werde ich mir auf jeden Fall gleich angucken.

Christoph:
[1:05:13] Das sind nur vier Minuten oder so, das verlinke ich.

Nils:
[1:05:16] Das ist auf jeden Fall kürzer und vermutlich leichter verdauern als der Wolframatik. Ich würde auch nicht behaupten, dass ich den bis ins Letzte verstanden habe, aber ich habe eine Menge daraus gelernt.

Christoph:
[1:05:24] Sehr gut. Okay, ich glaube, du bist auch durch, ne?

Christoph:
[1:05:34] Wenn ihr uns Kommentare zu dieser Folge hinterlassen wollt, dann macht es doch auf unserer Webseite www.zwischenzweideckeln.de. Wenn ihr auf einer App unterwegs seid, bei der man Sternchen oder so verteilen kann, dann gebt uns gerne die maximale Anzahl. Und wenn ihr uns auf Social Media besuchen wollt, dann könnt ihr das auf dem Mastodon-Server podcast.social unter dem Handel at zz.d. Und wir werden auch einen Blue Sky Account einrichten. Leider muss ich mit mir jetzt gleich noch verhandeln, welches Handel wir dafür nehmen, weil das, was wir haben wollten, gibt es nicht mehr. Wir werden die ganzen Meta-Dinger einstellen. Also Facebook, Instagram und so gibt es nicht mehr. Aus, ich glaube, breit diskutierten Gründen und so. Leider nicht mehr in einer ganz so coole Firma. Auch schon länger nicht, aber es zieht sich bedenklich zu und zieht bedenklich an. Genau, deswegen werden die eingestellt. Und damit entlasse ich euch in die Welt und freue mich, wenn ihr auch nächstes Mal wieder zuhört. Macht’s gut. Tschüss.

Nils:
[1:06:31] Tschüss.

Music:
[1:06:31] Music

Quellen und so

Intro und Outro der Episode stammen aus dem Stück Maxixe von Agustin Barrios Mangore, eingespielt von Edson Lopes (CC-BY).

Das Umblättern zwischen den Teilen des Podcasts kommt hingegen von hoerspielbox.de.

Zwischen zwei Deckeln findest du auch im sozialen Medium deiner Wahl: Mastodon und Bluesky.

Der Beitrag 088 – „Das Auge des Meisters“ von Matteo Pasquinelli erschien zuerst auf Zwischen zwei Deckeln.