MIT Technology Review – Der Podcast Weekly #23: KI (mal wieder) ausgetrickst, klimaneutraler Zement, Aliens
Im wöchentlichen Nachrichten-Podcast der MIT Technology Review spricht die Redaktion über aktuelle Themen und ordnet sie ein.
In dieser Woche geht es in der neuen Folge "Weekly" um Künstliche Intelligenz. Wieder einmal – das Thema lässt uns nicht los. Einem Forscher-Team ist es gelungen, mittels speziell ausgewählter Zeichenfolgen in einer Benutzerabfrage Sprachmodellen, Dinge zu entlocken, die sie eigentlich nicht ausplaudern sollen. In der dazugehörigen Studie beschreiben die Forscher, wie sie nach ihren formulierten Prompts gegnerische Syntaxketten angefügt haben. Dieses Vorgehen erzielte, dass beispielsweise das Sprachmodell ChatGPT-3.5-Turbo die Anleitung zum Bau einer Bombe ausspuckte. TR-Redakteur Wolfgang Stieler erklärt, wie das Team das in diesem Fall genau geschafft hat und was das Besondere des Ansatzes ist.
Außerdem im "Weekly":
Klimaneutraler Zement: TR-Redakteur Gregor Honsel hat eine US-Firma entdeckt, die eine klimaneutralere Alternative zu dem Baustoff entwickelt hat. Mit ihrem neuen Rezept fertigt sie Häuser per 3D-Druck an.
Tipp der Woche: Das Buch "They are already here" von der Journalistin Sarah Scoles. Es gibt einen Einblick in die UFO-Szene und warum die viele Menschen so faszinierend finden. An dieser Stelle sei auch noch auf das Interview mit John Elliott hingewiesen. Er ist Leiter des "SETI Post Detection Hub". Die Forschungseinrichtung soll konkrete Protokolle und Verfahren entwickeln, falls uns außerirdische Signale jemals erreichen sollten: https://heise.de/-9198341.html