Der KI-Podcast

Manche halten es für das größte Risiko der Menschheit: Eine künstliche Super-Intelligenz, die außer Kontrolle gerät und die Menschheit ausrottet. Aber ist wirklich etwas dran an diesem düsteren Szenario? Über die Hosts: Gregor Schmalzried ist freier Tech-Journalist und Berater, er arbeitet u.a. für den Bayerischen Rundfunk und Brand Eins. Marie Kilg ist freie Journalistin und Innovationsmanagerin im Deutsche Welle Lab. Zuvor war sie Produkt-Managerin bei Amazon Alexa. In dieser Folge: 0:00 Intro 2:30 Die Angst vor dem Paperplic Maximizer 9:10 Was ist "Alignment”? 15:30 Woher kommt die Angst vor der Super-KI? 21:40 Echte Gefahr oder Spinnerei? 28:00 Was haben wir mit KI gemacht? Redaktion und Mitarbeit: David Beck, Cristina Cletiu, Chris Eckardt, Fritz Espenlaub, Marie Kilg, Mark Kleber, Gudrun Riedl, Christian Schiffer, Gregor Schmalzried Links und Quellen: Asimov und die Robotergesetze https://www.deutschlandfunkkultur.de/100-geburtstag-von-isaac-asimov-als-der-erste-moralkodex-100.html Stephen Hawking über die Gefahr durch eine Super-KI (2014) https://www.bbc.com/news/technology-30290540 "Effective Altruism” und die Angst vor der Super-KI https://www.truthdig.com/articles/the-acronym-behind-our-wildest-ai-dreams-and-nightmares/ Alte Geschichten und Ängste: https://www.cbc.ca/radio/tapestry/fear-of-ai-1.7012912 Der KI-Podcast bei der TINCON Berlin 2024 https://tincon.org/event/berlin24/takeover-eine-ki-ubernimmt-den-ki-podcast Open AI veröffentlicht neues Modell GPT-4o https://www.theverge.com/2024/5/13/24155493/openai-gpt-4o-launching-free-for-all-chatgpt-users 27 — Der Podcast zur Europawahl https://1.ard.de/27-podcast?cp=ki Kontakt: Wir freuen uns über Fragen und Kommentare an podcast@br.de. Unterstützt uns: Wenn euch dieser Podcast gefällt, freuen wir uns über eine Bewertung auf eurer liebsten Podcast-Plattform. Abonniert den KI-Podcast in der ARD Audiothek oder wo immer ihr eure Podcasts hört, um keine Episode zu verpassen. Und empfehlt uns gerne weiter!

Jeder, der schon mal mit KI-Sprachmodellen zu tun hatte, kennt es: man will eine bestimmte Antwort vom Chatbot - doch der weigert sich hartnäckig, diese zu geben. Es gibt aber Tricks, um LLMs und andere GenAI-Modelle gefügig zu machen: sogenannte Pompt Hacks, Jailbreaks oder Prompt Injections. Wir erklären, was hinter diesen Begriffen steckt, wie diese Methoden funktionieren und wir fragen: Ist es gut oder schlecht, wenn KI-Modelle nicht alle Fragen beantworten, die wir ihnen stellen? In dieser Folge: 00:00 Intro 02:38 Was sind Prompt Hacks und wie funktionieren sie? 13:30 Wie Marie einen Chatbot dazu brachte, ihr 3000 Proteinriegel zu versprechen 19:47 Fritz und DeepSeek: Wer bestimmt, was KI-Modelle sagen? 30:10 Sollen Chatbots immer auf alle Fragen Antworten geben? 34:32 Was haben wir diese Woche mit KI gemacht? Redaktion und Mitarbeit: David Beck, Cristina Cletiu, Chris Eckardt, Fritz Espenlaub, Marie Kilg, Mark Kleber, Gudrun Riedl, Christian Schiffer, Gregor Schmalzried Links und Quellen: - Chevrolet of Watsonwille verkauft Chevy Tahoe für $1 https://www.theautopian.com/chevy-dealers-ai-chatbot-allegedly-recommended-fords-gave-free-access-to-chatgpt/ - Findet man in LLMs gefährlichere Informationen zu Biowaffen als in Google? https://www.rand.org/pubs/research_reports/RRA2977-2.html - Der chinesische Chatbot DeepSeek und das Tiananmen-Massaker: https://www.linkedin.com/posts/peter-gostev_it-took-some-effort-but-i-managed-to-get-activity-7152042996635521024-2hBZ/ - KI macht Job-Interviews: https://www.micro1.ai/gpt-vetting - Airline haftet für Fehler ihres Chatbots: https://www.theguardian.com/world/2024/feb/16/air-canada-chatbot-lawsuit - Maries Theaterstück: Anna und Eve in der Neuköllner Oper https://www.neukoellneroper.de/performance/anna-eve/ - Was steckt hinter dem mysteriösen neuen Chatbot GPT2? https://news.ycombinator.com/item?id=40199715 https://arstechnica.com/information-technology/2024/04/rumors-swirl-about-mystery-gpt2-chatbot-that-some-think-is-gpt-5-in-disguise/ Kontakt: Wir freuen uns über Fragen und Kommentare an podcast@br.de. Unterstützt uns: Wenn euch dieser Podcast gefällt, freuen wir uns über eine Bewertung auf eurer liebsten Podcast-Plattform. Abonniert den KI-Podcast in der ARD Audiothek oder wo immer ihr eure Podcasts hört, um keine Episode zu verpassen. Und empfehlt uns gerne weiter!

KI-Modelle, die Tierarten erkennen, Proteine berechnen oder einfach nur Forschern Arbeit abnehmen. Die KI-Revolution kommt mit jeder Menge Potential für Forschung und Wissenschaft - und großen Träumen von der Zukunft. Ist das wirklich gerechtfertigt? Über die Hosts: Gregor Schmalzried ist freier Tech-Journalist und Berater, er arbeitet u.a. für den Bayerischen Rundfunk und Brand Eins. Fritz Espenlaub ist freier Journalist und Moderator beim Bayerischen Rundfunk und 1E9 mit Fokus auf Technologie und Wirtschaft. In dieser Folge: 0:00 Das "delve”-Problem 3:40 KI als Forschungsassistent 10:10 KI im Regenwald 12:10 KI als Forschungsbeschleuniger 16:20 KI in der Zukunft 22:20 Was haben wir mit KI gemacht? Termin-Files, rabbit r1 und der Humane AI Pin Redaktion und Mitarbeit: David Beck, Cristina Cletiu, Chris Eckardt, Fritz Espenlaub, Marie Kilg, Mark Kleber, Gudrun Riedl, Christian Schiffer, Gregor Schmalzried Links und Quellen: Untersuchung zu KI-Begriffen in wissenschaftlichen Texten https://arxiv.org/abs/2403.07183 Universität Jena-Projekt zu GPT-3 und chemischem Wissenstransfer https://www.uni-jena.de/240207-gpt-chemie Universität Würzburg-Projekt zu KI im Regenwald https://www.uni-wuerzburg.de/aktuelles/pressemitteilungen/single/news/ki-biodiversitaet-regenwald/ AlphaFold https://www.science.org/content/article/google-s-deepmind-aces-protein-folding Neue Antibiotika - dank KI https://wyss.harvard.edu/news/using-ai-researchers-identify-a-new-class-of-antibiotic-candidates/ CRISPR und KI https://www.nytimes.com/2024/04/22/technology/generative-ai-gene-editing-crispr.html Sam Altman im Atlantic https://www.theatlantic.com/magazine/archive/2023/09/sam-altman-openai-chatgpt-gpt-4/674764/ Kontakt: Wir freuen uns über Fragen und Kommentare an podcast@br.de. Unterstützt uns: Wenn euch dieser Podcast gefällt, freuen wir uns über eine Bewertung auf eurer liebsten Podcast-Plattform. Abonniert den KI-Podcast in der ARD Audiothek oder wo immer ihr eure Podcasts hört, um keine Episode zu verpassen. Und empfehlt uns gerne weiter!

Die Hosts diskutieren die Relevanz von KI bei der Recherche und geben praktische Tipps. Themen wie die Möglichkeit von intelligentem Leben ohne das Aussterben der Dinosaurier, die Einführung des KI-Modells Lama3, sowie kreative Anwendungen von KI bei Kinderliedern werden behandelt.

Der globale Wettlauf um Künstliche Intelligenz wird als moderne Version des Wettlaufs ins All spannend diskutiert. Die USA, China und Europa messen sich in ihren Investitionen und Strategien. Besonders auch Japan zeigt auf, wie es im KI-Bereich aufholen will. Außerdem wird untersucht, wie KI den Einkauf revolutioniert und sogar die italienische Küche beeinflussen kann. Kritische Betrachtungen zu Entwicklungen und deren tatsächlicher Umsetzung stehen im Zentrum, während geopolitische Implikationen nicht außer Acht gelassen werden.

Alle in der Tech-Welt wollen mit KI Geld verdienen - aber nicht alle schaffen es. Wer macht das große Geschäft? Chip-Hersteller wie Nvidia, Anbieter sogenannter Foundation Models wie OpenAI - oder am Ende doch eines der zahlreichen neuen Startups mit ihren spezialisierten KI-Produkten? Und was muss passieren, damit am Ende nicht nur Unternehmen profitieren, sondern auch die Arbeitnehmer? Wir tauchen ab in das KI-Ökosystem und schauen uns die großen und die kleinen Fische an. Über die Hosts: Gregor Schmalzried ist freier Tech-Journalist und Berater, er arbeitet u.a. für den Bayerischen Rundfunk und Brand Eins. Fritz Espenlaub ist freier Journalist und Moderator beim Bayerischen Rundfunk und 1E9 mit Fokus auf Technologie und Wirtschaft. 00:00 Intro 02:18 Das Wasser: Nvidia und co 06:06 Die Wale: Foundation Models 12:12 Und die anderen Fische: KI-Software aller Art 22:21 Profitieren nur Mega-Unternehmen oder wir alle? 30:57 Was haben wir diese Woche mit KI gemacht? Links Wird Googlen mit KI bald zahlungspflichtig? https://www.golem.de/news/suchmaschine-google-soll-ki-suche-als-bezahloption-planen-2404-183821.html Saudi Arabien will 40 Milliarden Dollar in KI-Firmen investieren: https://www.nytimes.com/2024/03/19/business/saudi-arabia-investment-artificial-intelligence.html Foundation Models versus KI-Software: https://every.to/napkin-math/what-are-ai-agents-and-who-profits-from-them Firma Dorfner macht mehr Umsatz mit KI: https://www.handelsblatt.com/technik/ki/kuenstliche-intelligenz-dorfner-macht-durch-ki-schon-30-prozent-mehr-umsatz/100026634.html Daron Acemoglu und Simon Johnson: Power and Progress https://basicbooks.uk/titles/daron-acemoglu/power-and-progress/9781399804455/ David Autor in der NYT: https://www.nytimes.com/2024/04/01/business/ai-tech-economy.html Künstler schreiben offenen Brief gegen KI: https://www.br.de/nachrichten/netzwelt/angriff-auf-die-kreativitaet-musiker-fordern-schutz-vor-ki,U8yXd6l Redaktion und Mitarbeit: David Beck, Cristina Cletiu, Chris Eckardt, Fritz Espenlaub, Marie Kilg, Mark Kleber, Gudrun Riedl, Christian Schiffer, Gregor Schmalzried Kontakt: Wir freuen uns über Fragen und Kommentare an podcast@br.de. Unterstützt uns: Wenn euch dieser Podcast gefällt, freuen wir uns über eine Bewertung auf eurer liebsten Podcast-Plattform. Abonniert den KI-Podcast in der ARD Audiothek oder wo immer ihr eure Podcasts hört, um keine Episode zu verpassen. Und empfehlt uns gerne weiter!

KI-Freunde in Snapchat, synthetische Welten in Roblox, Roboter-Geschichten aus der Toniebox: Die Generation ChatGPT wächst umgeben von Künstlicher Intelligenz auf - und das stellt Eltern und Lehrkräfte vor heikle Fragen: Ist KI für die eigenen Sprösslinge ein Risiko? Oder birgt die Technologie Chancen? Marie, Gregor suchen mit der Hilfe der Psychologin Verena Friederike Hasel nach Antworten Über die Hosts: Marie Kilg ist freie Journalistin und Innovationsmanagerin im Deutsche Welle Lab. Zuvor war sie Produkt-Managerin bei Amazon Alexa. Gregor Schmalzried ist freier Tech-Journalist und Berater, er arbeitet u.a. für den Bayerischen Rundfunk und Brand Eins. In dieser Folge: 0:00 Was machen Kinder mit KI? 12:00 Risiko KI: Was kann schiefgehen? 19:00 Chancen und Hoffnung 23:00 Was macht die Generation ChatGPT anders? 27:30 Was haben wir mit KI gemacht? Redaktion und Mitarbeit: David Beck, Cristina Cletiu, Chris Eckardt, Fritz Espenlaub, Marie Kilg, Mark Kleber, Hendrik Loven, Gudrun Riedl, Christian Schiffer, Gregor Schmalzried Links und Quellen: KI in der Toniebox https://www.handelsblatt.com/technik/it-internet/chatgpt-wie-die-toniebox-mit-ki-zum-persoenlichen-geschichtenerzaehler-wird-/29484272.html Selbst erstelltes Kinderbuch, unterstützt durch ChatGPT und Midjourney https://adventure-of-penelope.vercel.app/ Fake-Lern-Videos auf YouTube https://www.wired.com/story/your-kid-may-be-watching-ai-generated-videos-on-youtube/ Snapchat My AI https://www.br.de/nachrichten/netzwelt/snapchats-my-ai-der-chatbot-der-sich-unter-die-freunde-mischt,Tg1eYux Kontakt: Wir freuen uns über Fragen und Kommentare an podcast@br.de. Unterstützt uns: Wenn euch dieser Podcast gefällt, freuen wir uns über eine Bewertung auf eurer liebsten Podcast-Plattform. Abonniert den KI-Podcast in der ARD Audiothek oder wo immer ihr eure Podcasts hört, um keine Episode zu verpassen. Und empfehlt uns gerne weiter!

In den sozialen Medien, auf Dating-Apps, sogar auf Online-Marktplätzen... Überall bekommen Menschen auf einmal KI-generierte Konkurrenz. Aber wenn in Zukunft die KI kaum noch von der Realität unterscheidbar ist, wie beweisen wir dann, dass ein Mensch ein Mensch ist - und keine KI? Über die Hosts: Marie Kilg ist freie Journalistin und Innovationsmanagerin im Deutsche Welle Lab. Zuvor war sie Produkt-Managerin bei Amazon Alexa. Gregor Schmalzried ist freier Tech-Journalist und Berater, er arbeitet u.a. für den Bayerischen Rundfunk und Brand Eins. In dieser Folge: 0:00 Der minimale Turing-Test 4:30 Der Drake-Efekt: Wenn wir Echtes für Falsch halten 9:30 KI-Konkurrenz auf Facebook, Amazon und im echten Leben 18:20 Wie beweise ich, dass ich keine KI bin? 28:45 Was haben wir mit KI gemacht? Redaktion und Mitarbeit: David Beck, Cristina Cletiu, Chris Eckardt, Fritz Espenlaub, Marie Kilg, Mark Kleber, Gudrun Riedl, Christian Schiffer, Gregor Schmalzried Links und Quellen: Der KI-Fake von Drake und The Weeknd https://www.br.de/nachrichten/netzwelt/ki-fakes-von-oasis-und-drake-erschuettern-die-musikwelt,TbruJuC Der "Minimal Turing Test” im englischen Original https://www.theverge.com/2018/10/7/17940352/turing-test-one-word-minimal-human-ai-machine-poop KI-Bäcker auf Facebook https://twitter.com/AlsikkanTV/status/1770214218395976007 Tinder sichert sich gegen Fakes https://petapixel.com/2024/02/23/tinder-will-require-video-selfies-amid-rise-of-ai-images-on-dating-apps/ KI-Bücher auf Amazon https://www.wired.com/story/scammy-ai-generated-books-flooding-amazon/ Initiative "Content Credentials” https://contentcredentials.org/ Suno-Reportage im Rolling Stone https://www.rollingstone.com/music/music-features/suno-ai-chatgpt-for-music-1234982307/ Kontakt: Wir freuen uns über Fragen und Kommentare an podcast@br.de. Unterstützt uns: Wenn euch dieser Podcast gefällt, freuen wir uns über eine Bewertung auf eurer liebsten Podcast-Plattform. Abonniert den KI-Podcast in der ARD Audiothek oder wo immer ihr eure Podcasts hört, um keine Episode zu verpassen. Und empfehlt uns gerne weiter!

In dieser Podcast-Folge wird diskutiert, ob autonome KI-Agenten wie Devin und SIMA eines Tages unsere Jobs besser machen können. Es werden Beispiele von KI-Agenten wie BabyAGI und deren Fähigkeiten genannt. Die Auswirkungen von fortschrittlichen KI-Agenten auf den Arbeitsmarkt und ethische Aspekte werden beleuchtet. Es wird auch über die effiziente Nutzung von künstlicher Intelligenz bei der Podcast-Vorbereitung gesprochen.

Die KI wird zu unserem Vertrauten im Alltag - ChatGPT und andere Tools helfen beim Rezeptekochen, im Urlaub und natürlich bei der Arbeit. Aber können wir den Ergebnissen der KI wirklich vertrauen? Wie kann man sicherstellen, dass die KI uns nicht hinters Licht führt? Fritz und Gregor unterziehen der KI dem großen Glaubwürdigkeitstest und versuchen, KI endlich ehrlicher zu machen. Über die Hosts: Gregor Schmalzried ist freier Tech-Journalist und Berater, er arbeitet u.a. für den Bayerischen Rundfunk und Brand Eins. Fritz Espenlaub ist Journalist und Moderator beim Bayerischen Rundfunk und 1E9. In dieser Folge: 0:00 Das Problem KI-Bullshit 10:00 Wie entstehen Halluzinationen? 15:00 Wie hole ich die Wahrheit aus der KI? 27:30 TUM lehnt Bewerber ab - wegen KI 31:50 Hat Claude 3 ein Bewusstsein? Links: Rechtsanwalt scheitert mit ChatGPT-Fällen https://www.tagesschau.de/wissen/technologie/ki-rechtsanwalt-100.html KI erzeugt Chlorgas-Rezept https://www.chip.de/news/Nicht-nachmachen-KI-kocht-und-generiert-lebensgefaehrliche-Kochrezepte_184906328.html Google Gemini und Hautfarben in KI-Bildern https://www.br.de/nachrichten/netzwelt/debatte-um-google-gemini-wie-woke-ist-die-ki,U4usGOV Interference Time Intervention https://openreview.net/forum?id=aLLuYpn83y KI-Suchmaschine Perplexity https://www.perplexity.ai/ Schlechte Nachruf-Übersetzungen https://twitter.com/Fritz_Espenlaub/status/1767529265455632839 TUM lehnt Bewerber wegen KI ab https://www.br.de/nachrichten/netzwelt/tu-muenchen-lehnt-bewerber-wegen-chatgpt-ab,U6KPAMC Redaktion und Mitarbeit: David Beck, Cristina Cletiu, Chris Eckardt, Fritz Espenlaub, Marie Kilg, Mark Kleber, Gudrun Riedl, Christian Schiffer, Gregor Schmalzried Kontakt: Wir freuen uns über Fragen und Kommentare an podcast@br.de. Unterstützt uns: Wenn euch dieser Podcast gefällt, freuen wir uns über eine Bewertung auf eurer liebsten Podcast-Plattform. Abonniert den KI-Podcast in der ARD Audiothek oder wo immer ihr eure Podcasts hört, um keine Episode zu verpassen. Und empfehlt uns gerne weiter!