Sicherheitsrisiken geteilter Chats

Warum glauben so viele Menschen, KI „denkt wie wir“ – und warum führt genau diese Annahme ständig zu Fehlinterpretationen? Wie unterscheidet man eigentlich „Reasoning“ von schnellem Token-Raten? Und was passiert, wenn wir Chatbots plötzlich Eigenschaften zuschreiben, die sie überhaupt nicht haben?

Diesen Podcast gibt es auch als Video-Podcast auf meinem YouTube Kanal.

Zu diesen und weiteren Fragen spreche ich in dieser Episode von „AI to the DNA“, dem Podcast für alle, die Künstliche Intelligenz wirklich verstehen und anwenden wollen, mit Lina Sophie Knees. Lina ist KI-Reporterin beim Handelsblatt, Co-Autorin des meistgelesenen KI-Newsletters in Deutschland – und bekannt dafür, tiefer zu graben als andere. Sie liest Papers, befragt Forschende, experimentiert selbst und macht komplexe KI-Themen verständlich, ohne sie zu vereinfachen.

Wir sprechen darüber, warum Reasoning-Modelle im Kern etwas völlig anderes tun als klassische Transformer, warum Benchmarks heute kaum noch etwas aussagen und weshalb es gefährlich ist zu glauben, man könne „einfach das größte Modell draufpacken“. Lina erklärt, wie sie den DeepSeek-Case analysiert hat: Wie ein einziges neues Modell über Nacht ihre eigene These über das Ende der Transformer-Ära ins Wanken brachte, warum acht Expertinnen und Experten acht völlig verschiedene technische Hypothesen hatten – und welche davon heute noch Bestand haben.

Ein großer Block dreht sich um Psychologie: Warum wir so schnell eine emotionale Bindung zu KI-Systemen aufbauen, wie Systemprompts unser Verhalten lenken und warum wir dringend aufhören müssen, Sprachmodellen „menschliches Denken“ zu unterstellen. Wir diskutieren, was das für Kinder bedeutet, die KI-Tools selbstverständlich bedienen – und wie man ihnen (und Erwachsenen) beibringt, dass diese Modelle auf Wahrscheinlichkeiten basieren, nicht auf Verstehen.

Außerdem tauchen wir ein in die Zukunft der KI jenseits der Sprache: Physical AI, Weltmodelle, Robotik, Objektpermanenz. Lina zeigt, warum Roboter heute noch an Glitches scheitern, weshalb Simulationen allein nicht reichen und welche europäischen Teams gerade dabei sind, echte physische KI zu bauen – basierend auf Realdaten statt nur Internetwissen.

Und natürlich geht es um Anwendung: Wie Firmen sichere Rahmen schaffen, damit Mitarbeitende KI nicht heimlich, sondern kompetent nutzen. Warum Neugier ein Muskel ist, den man trainieren kann. Und wieso wir jetzt die Phase erleben, in der es keine dummen Fragen gibt – nur die Chance, in einem völlig neuen Feld ganz vorne mitzuspielen.

Hier bei AI to the DNA will ich, Christoph Magnussen, tiefer in die Materie eintauchen. Mich interessiert nicht nur, wie man KI nutzt, sondern warum sie so funktioniert, wie sie funktioniert. Mit AI to the DNA gewinnt ihr Einblicke in die Natur der Künstlichen Intelligenz – und erfahrt, wie sie Teil eurer DNA wird. So werdet ihr von neugierigen Tool-Tourist:innen zu echten AI-Anwendungsweltmeister:innen!

Spare jetzt 250€ auf unsere AI Officer Ausbildung mit dem Gutscheincode: ATTD250
-> Jetzt anmelden auf https://shop.blackboat.com

• (00:00) - Intro & Teaser
• (05:48) - DeepSeek vs. Transformer: Der Hype-Check
• (11:27) - Gemini 3 & das Ende der Benchmarks
• (15:44) - Das "Strawberry-Problem": Wie Modelle wirklich funktionieren
• (21:08) - Emotionale Bindung an KI
• (28:40) - Reasoning vs. Next Token Prediction
• (34:47) - Physical AI & World Models
• (48:01) - Schatten-IT & der "Hühnchen-Leak"
• (53:59) - Agentic Browsing: Erwartung vs. Realität
• (01:05:40) - Fazit: Neugier als Muskel