KI-Update – ein heise-Podcast

Martin Holland, Redakteur bei heise Online, beleuchtet OpenAIs Strukturänderung hin zu einem gewinnorientierten Modell und die Reaktionen des Marktes. Eva-Maria Weiß, Journalistin mit Fokus auf KI, erklärt die Ursachen für Halluzinationen von Sprachmodellen und diskutiert deren Auswirkungen. Malte Kirchner schildert, wie KI bei Spesenbetrug missbraucht wird, inklusive gefälschter Belege und daraus resultierender rechtlicher Risiken für Unternehmen.

Max Schreiner, ein redaktioneller Mitarbeiter von The Decoder, beleuchtet OpenAIs musische Ambitionen und die Integration von ChatGPT in Unternehmen. Nico Jurran, Redakteur bei CT, stellt die neuartigen Amazon-Zustellbrillen vor, die Paketboten helfen, während Thomas Hoffmann, Fotografie-Experte, über die Authentizität von KI-Bildern diskutiert. Die Herausforderungen bei der Unterscheidung echter Fotos und gefälschter Inhalte sowie innovative Lösungen wie Content Credentials sind ebenfalls spannende Themen.

Nico Juran, Redakteur bei c't und Experte für smarte Brillen, teilt spannende Einblicke aus seinen Tests. Er erklärt den Unterschied zu Google Glass und beleuchtet die Besonderheiten aktueller Modelle. Datenschutz und Bedienkomfort sind wichtige Themen, während er die Vorteile von Augmented Reality und generativer KI ansprechen. Zudem diskutiert er die Vielfalt der Brillentypen und deren Marktpotenzial, einschließlich Herausforderungen bei Sehkorrekturen. Ein unterhaltsamer Austausch über die Zukunft der tragbaren Technologie!

Kim Schoenbrand, Korrespondent von The Decoder / heise, bringt spannende Einblicke zu aktuellen KI-Trends. Er erklärt das Projekt Mercury, das Junior-Banker durch Automatisierung überflüssig machen soll. Außerdem beleuchtet er, wie Chatbots im Militär für taktische Entscheidungen eingesetzt werden. Interessant ist auch der Sort A Brick-Service, der gebrauchte Lego-Steine mithilfe von KI zu kompletten Sets sortiert. Diese Themen zeigen, wie KI in verschiedenen Bereichen sowohl Herausforderungen als auch Chancen mit sich bringt.

OpenAI hat von einem vermeintlichen Mathematik-Durchbruch berichtet, der sich als Fehlinformation entpuppte. Reddit führt ein neues KI-Feature ein, das beantwortete Fragen direkt mit Quellen verknüpft. Salesforce stellt eine umfassende KI-Plattform für Unternehmen vor, die innovative Funktionen bietet. Zudem gibt es Besorgnis über den Abgang von KI-Experten bei Apple zu Meta. Schließlich wurde ein spannendes Pilotprojekt für autonome Shuttles in Berlin vorgestellt.

In dieser Ausgabe wird die Gefahr einer möglichen KI-Blase diskutiert, mit Vergleichen zur Dotcom-Blase. Anthropic überrascht mit starkem Wachstum und milliardenschweren Expansionsplänen, während der Einsatz neuer Technologien wie Claude in Microsoft 365 für Unternehmen thematisiert wird. Oracle stellt einen Supercomputer mit 800.000 GPUs vor, und Apple arbeitet mit innovativen Modellen an schnelleren Textgeneratoren. Außerdem gibt es Kontroversen über KI-generierte Inhalte bei Pinterest und neue Entwicklungen im Bereich der Biomedizin.

Kalifornien führt neue Kinderschutzgesetze für KI-Chatbots ein, um Missbrauch zu verhindern und Altersverifikationen zu stärken. Eine spannende Diskussion über ChatGPTs neuen Erwachsenenmodus für erotische Inhalte entfaltet sich. OpenAI stellt seinen ersten KI-Chip vor, während Nvidia mit dem DGX Spark einen leistungsstarken Mini-PC für lokale KI-Modelle präsentiert. Auch Walmart integriert seinen Einkauf direkt in ChatGPT, was die Nutzung von KI im Alltag entscheidend erleichtert.

Im Fokus stehen die überraschenden Vorurteile in Sprachmodellen, die eine Studie über diskriminierende Tendenzen aufdeckt. Zudem wird ein Gerichtsurteil gegen xAI vorgestellt, das falsche Informationen des Chatbots korrigiert. Forscher enthüllen eine gefährliche Schwachstelle in großen Sprachmodellen, während Nvidia in vielversprechende KI-Startups investiert. Das neue RabbitOS 2 verspricht Fortschritte für Handheld-Geräte, und es wird ein Trend zu interaktiven KI-Spielzeugen für Kinder in China beleuchtet.

Eva Wolfangel, eine erfahrene Tech-Journalistin und Co-Moderatorin des c't-Podcasts They Talk Tech, taucht tief in die Welt der Prompt Injections ein. Sie erklärt, wie bösartige Eingaben Chatbots manipulieren können und welche Risiken durch Social Engineering entstehen. Eva demonstriert angreifbare Szenarien wie ASCII-Smuggling und diskutiert die Herausforderungen der Sicherheit. Besonders eindrücklich wird die 'lethal trifecta' beschrieben, die agentische Systeme gefährdet. Ein Must-Hear für alle, die sich mit KI-Sicherheit auseinandersetzen!

OpenAI hat ein neues Ökosystem rund um ChatGPT vorgestellt, inklusive Apps und SDK. Der milliardenschwere Deal von OpenAI mit AMD sorgt für Aufsehen. Anthropic präsentiert das KI-Tool Petri zur Sicherheitsprüfung von Modellen. Der Dragon Co-Pilot wird jetzt in deutschen Kliniken zur Dokumentation eingesetzt. Außerdem wird über Googles Einführung eines KI-Bug-Bounty-Programms diskutiert. Schließlich wird Jeff Bezos’ Vision von KI-Rechenzentren im Orbit angesprochen, um Solarenergie effizient zu nutzen.