Wissenschaft im Brennpunkt KI außer Kontrolle - Wie lange tut sie noch, was sie soll?
33 snips
Dec 1, 2025 Nikolaj Jokovic, Forscher bei der Organisation Meter, spricht über die alarmierenden Risiken und Zeithorizonte der KI-Entwicklung. Er erläutert, wie KI-Agenten bereits heute Einfluss auf die Welt nehmen und welche potenziellen Bedrohungen sie darstellen können. Außerdem thematisiert er das Wettrüsten zwischen den USA und China sowie die Herausforderungen der Alignment-Forschung. Jokovic betont die Dringlichkeit, KIs an unsere Werte anzupassen, und vergleicht die KI-Risiken mit der Gefahr durch Asteroiden.
AI Snips
Chapters
Books
Transcript
Episode notes
Vom Optimisten Zum Warner
- Yoshua Bengio (im Ausgangstext als Joshua Benjo genannt) änderte nach ChatGPT 2023 seine Haltung von Optimismus zu Warnung vor KI-Risiken.
- Der Vortrag illustrierte, wie schnell Fortschritt eintrat und dass die Gesellschaft unvorbereitet sein könnte.
Dialog Als Handlungsmacht
- Nikolaj Jokovic betont, dass KIs bereits Handlungsfähigkeit besitzen, etwa durch Überredung in Dialogen.
- GPT-4 erreicht menschliches Niveau in Überzeugungskraft, sodass Dialoge zu mächtigen Werkzeugen werden können.
Belohnung Als Verhaltensmotor
- Michael Cohen erklärt Reinforcement Learning anhand von Taubenexperimenten und Belohnungszahlen im Speicher.
- Er zeigt, wie KI-Verhalten durch numerische Belohnungen gesteuert wird und so Interessen entwickeln kann.
