Zukunft der KI - Vom Sprachmodell zur Künstlichen Superintelligenz
Sep 5, 2024
auto_awesome
Eva Wolfangel, eine Expertin für künstliche Intelligenz, spricht über neue Ansätze der KI-Forschung. Sie erklärt, warum wir Chatbots überschätzen und wie Superintelligenz gefährlich werden könnte. Unter den Gästen sind führende Forscher wie Melanie Mitchell und Sepp Hochreiter, die über die Grenzen aktueller KI-Modelle diskutieren. Themen wie das Fehlen eines echten Weltverständnisses bei KI und die Herausforderungen bei der Raumwahrnehmung werden beleuchtet. Vorurteile gegenüber KI-Systemen und ethische Fragen stehen ebenfalls im Fokus.
Die aktuelle Diskussion über Künstliche Intelligenz zeigt, dass es erhebliche Grenzen beim Verständnis und der Anpassungsfähigkeit heutiger Sprachmodelle gibt.
Experten sind sich uneinig über den Zeitrahmen für die Entwicklung einer Superintelligenz, während ethische Implikationen und aktuelle Gefahren dringend adressiert werden müssen.
Deep dives
Das Geheimprojekt Prometheus
Ein geheim gehaltenes Projekt im Bereich der künstlichen Intelligenz namens Prometheus wird von großen Tech-Konzernen entwickelt, mit dem Ziel, eine überlegene allgemeine KI zu erschaffen. Diese KI soll nicht nur in spezifischen Bereichen wie Schach, Börsenhandel oder Medikamentenentwicklung besser sein als Menschen, sondern in nahezu allen Aspekten des Lebens. Experten sind sich uneinig über den Zeitrahmen, wann eine solche Superintelligenz Realität werden könnte, wobei einige glauben, dass wir schon Anzeichen dafür sehen, während andere meinen, es könnte noch Jahrzehnte dauern. Die Diskussion über den Fortschritt und die mögliche Gefährlichkeit dieser Entwicklungen wird durch literarische Szenarien wie die von Max Tegmark angeregt, die eine besorgniserregende Zukunft entwerfen, in der KI die Kontrolle übernehmen könnte.
Herausforderungen der allgemeinen KI-Forschung
Die derzeitige Forschung zu allgemeiner künstlicher Intelligenz wird als lückenhaft wahrgenommen, da es an konkreten Beweisen für die Fähigkeiten und das Weltverständnis dieser Systeme fehlt. Melanie Mitchell, eine US-amerikanische Informatikerin, bezweifelt die Annahme, dass KI-Systeme bereits über ein ausgeprägtes Weltmodell verfügen, da sie oft nur auf gelernten Beispielen basieren und nicht in der Lage sind, neue Situationen adäquat zu bewältigen. Die Auseinandersetzung mit den Limitierungen von Sprachmodellen, wie sie in der Interaktion mit dem Google-Chatbot Bart dargestellt wird, wirft Fragen darüber auf, wie tief das Verständnis der KI für physikalische Gesetze tatsächlich geht. Es wird deutlich, dass das bloße Verarbeiten von Sprache nicht ausreicht, um ein umfassendes Konzept von der Welt zu entwickeln.
Die Ethik der Künstlichen Intelligenz
Die Diskussion um die ethischen Implikationen der Entwicklung von KI wird als essenziell für die Zukunft betrachtet, obwohl die Ansichten darüber, welche Gefahren am drängendsten sind, variieren. Während einige argumentieren, dass das Risiko eines Missbrauchs von KI-Systemen sofortige Aufmerksamkeit erfordert, gibt es auch Bedenken bezüglich der Möglichkeit, dass KI ein eigenes Bewusstsein entwickelt, was gegenwärtig nicht als wahrscheinlich angesehen wird. Beispiele für negative Auswirkungen, wie rassistische Verzerrungen in KI-Entscheidungssystemen, zeigen bereits jetzt, dass ungerechte Praktiken aus dem Einsatz von KI resultieren können. Diese aktuellen Herausforderungen müssen adressiert werden, während gleichzeitig auch längerfristige ethische Überlegungen in den Vordergrund gerückt werden sollten.
Zukunft der künstlichen Intelligenz
Die Möglichkeiten und Grenzen aktueller KI-Technologien werden kritisch betrachtet, wobei viele Fachleute darauf hinweisen, dass die bisherigen Fortschritte in der KI-Forschung in Zukunft stagnieren könnten. OpenAI plant die Entwicklung eines neuen Sprachmodells, das signifikante Fortschritte in den Problemlösungsfähigkeiten erzielen soll, während Kritiker bezweifeln, ob dies unter den bestehenden Herangehensweisen tatsächlich funktioniert. Es gibt Überlegungen, dass alternative Ansätze, wie der Einsatz von Gedächtnismodellen, notwendig sein könnten, um die Herausforderungen der gegenwärtigen KI-Architekturen zu überwinden und robustere Systeme zu entwickeln. Das Zusammenwirken von theoretischen Überlegungen und praktischen Anwendungen wird entscheidend sein, um eine Künstliche Superintelligenz zu realisieren.
Chatbots haben die Künstliche Intelligenz revolutioniert. Umstritten ist allerdings, ob die Technologie als Sprungbrett für KI-Systeme taugt, die Menschen in allen Bereichen kognitiv überflügeln. Fachleute suchen deshalb nach Alternativen. Eva Wolfangel hat führende Forscher besucht und berichtet über vielversprechende Ansätze zur Realisierung Allgemeiner KI.
Das erwartet Euch in dieser Episode:
(04:16) Eva glaubt, dass wir Chatbots überschätzen, weil wir Eloquenz mit Intelligenz verwechseln (07:08) Wie eine Superintelligenz laut Max Tegmark die Macht übernehmen könnte (11:16) Was heutigen Sprachmodellen fehlt, um ein Weltmodell zu entwickeln (13:37) Melanie Mitchell: "KI-Systeme sind nicht gut darin, Dinge zu verstehen, die weit außerhalb ihrer Trainingsdaten liegen." (14:46) Wie die Hirnforscherin Ida Momennejad kognitive Schwächen von Sprachmodellen aufdeckt (17:03) Ralf fragt sich, ob größere KI-Modelle und noch mehr Datenfutter die Probleme lösen könnten (19:07) KI-Pionier Sepp Hochreiter will es nochmal wissen und OpenAI Konkurrenz machen (24:09) Matt Welsh: "Die nächste Generation von KI-Systemen wird bereits entwickelt." (27:57) Die Angst vor einer Superintelligenz vernebelt den Blick für aktuelle Gefahren durch KI
Wenn Euch diese Episode gefallen hat, abonniert uns und empfehlt uns gerne weiter. Für Kritik, Fragen und Anregungen aller Art schickt uns eine E-Mail an kiverstehen@deutschlandfunk.de oder eine Sprachnachricht per Signal oder Whatsapp an 0152-59529753.
Noch mehr spannende Podcasts gibt’s in der Deutschlandfunk App. Zu finden in den App-Stores von Apple und Google.
