Reboot Society - KI, Diversität und die neue Weltordnung

Wie sieht eigentlich die Zukunft der Arbeit aus? Warum schafft KI Demokratisierung von Wissen und Weiterbildung und welche Verantwortung tragen Großkonzerne für die Deutsche Wirtschaft? Wir hatten die große Ehre mit der Geschäftsführerin von Microsoft Deutschland und Österreich Agnes Heftberger genau diese Themen zu diskutieren. Quellen:Microsoft Work Trend Index: The 2025 Annual Work Trend Index: The Frontier Firm is born - The Official Microsoft Blog  Das Video mit Agnes Heftberger haben wir euch als Bonusmaterial auf unserem neuen Youtube Kanal hochgeladen! Folgt uns hier gerne um keine Video von uns zu verpassen:  Reboot Society - YouTube Folgt uns für Fragen, Anregungen und weiterführende Inhalte gerne auf unseren Social Media Kanälen:🔗 Sarah’s Instagram: @sarah_rojewski 🔗 Inken’s Instagram @askinkenai

In dieser Woche sprechen wir über die Zukunft des Internets. Wir waren bei Google eingeladen und durften Liz Reid zum neuen Google Feature  “KI Modus” interviewen. Im Zuge dessen haben wir uns gefragt, wie sich die Nutzung des Internets verändern wird, was Firmen heute schon tun müssen, damit ihre Produkte perspektivisch von LLMs ausgelesen werden und wie der neue Browser Atlas von Open AI die Karten neu mischen könnte. Das Video mit Liz Reid haben wir euch auf unserem neuen Youtube Kanal hochgeladen! Folgt uns hier gerne um keine Video von uns zu verpassen: Reboot Society - YouTube Quellen:Citation Report: AI Platform Citation Patterns: How ChatGPT, Google AI Overviews, and Perplexity Source InformationFree LLM Optimizer von Adobe: Adobe LLM Optimizer: Is Your Webpage Citable? - Chrome Web StoreFolgt uns für Fragen, Anregungen und weiterführende Inhalte gerne auf unseren Social Media Kanälen:🔗 Sarah’s Instagram: @sarah_rojewski 🔗 Inken’s Instagram @askinkenai

Nach einer kleinen Pause sind wir wieder zurück. Staffel 3 wird ist besonders! Wir werden euch wieder mit in die Welt von Künstlicher Intelligenz, unsere Gedanken und Gefühle mitnehmen. Und wir haben besondere Gäste und Stimmen im Podcast. Diese Woche sprechen wir über mentaler Gesundheit, erotische Inhalte mit ChatGPT und KI Sicherheit und Risiken von KI, die uns alle betreffen! Quellen: AI Platform Citation Patterns: How ChatGPT, Google AI Overviews, and Perplexity Source InformationScaling: The State of Play in AIhttps://www.oneusefulthing.org/p/scaling-the-state-of-play-in-ai?utm_source=bluedot-impact Trends in AI: Training Costs and Diffusion Speedhttps://dewierwan.github.io/ai-training-diffusion/?utm_source=bluedot-impactCatastrophic AI Scenarioshttps://futureoflife.org/resource/catastrophic-ai-scenarios/?utm_source=bluedot-impactAI Could Defeat All Of Us Combinedhttps://www.cold-takes.com/ai-could-defeat-all-of-us-combined/?utm_source=bluedot-impactRichard Ngo – Reframing AGI Threat Models [Alignment Workshop]https://www.youtube.com/watch?v=4v3uqWeVmcoFolgt uns für Fragen, Anregungen und weiterführende Inhalte gerne auf unseren Social Media Kanälen:🔗 Sarah’s Instagram: @sarah_rojewski 🔗 Inken’s Instagram @askinkenai

In der heutigen Folge sprechen wir darüber, was es mit der “Black Box” KI auf sich hat, warum wir nicht erklären können, wie KI zu Entscheidungen kommt und dass die Präzision von KI Modellen sinkt, wenn wir versuchen die Entscheidungen nachzuvollziehen. Adam Zewe (2024) Enabling AI to explain its predictions in plain language, MIT News, 2024 Enabling AI to explain its predictions in plain language | MIT News | Massachusetts Institute of TechnologyMatthew Kosinski What is black box artificial intelligence (AI)? ( 2024) What Is Black Box AI and How Does It Work? | IBMEU Artificial Intelligence Act (2024): Regulation (EU) 2024/1689 – Anforderungen an Hochrisiko-KI-Systeme Europäisches Parlament, EPRS Briefing https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A32024R1689Mihaela van der Schaar et al. (Hrsg.): Explainable AI in Healthcare: Unboxing Machine Learning for Biomedicine Springer Nature, 2022 (Diskutiert die Rolle von XAI für Vertrauen und Anwendung im Gesundheitswesen)📲 Media-Kanäle: 🔗 Sarah’s Instagram: @sarah_rojewski 🔗 Inken’s Instagram: @askinkenai

In der heutigen Folge sprechen wir darüber, wie heute schon die Kombination von Datenpunkten Profile von uns erstellen, um uns nicht nur Produkte zu empfehlen, sondern auch Preisanpassungen vorzunehmen oder sogar BewerberInnen auszuschließen. Wie sähe eine Welt aus, in der der Kühlschrank dich besser kennt als dein PartnerIn und was ist uns der Luxus von Personalisierung und Unterstützung wirklich wert?Rethinking Privavy in AI era: https://hai-production.s3.amazonaws.com/files/2024-02/White-Paper-Rethinking-Privacy-AI-Era.pdfCecilia Panigutti et al. (2023): The Role of Explainable AI in the Context of the AI Act ACM Conference on Fairness, Accountability, and Transparency (FAccT ’23) https://doi.org/10.1145/3593013.3594069Jonas Schuett (2023): Risk Management in the Artificial Intelligence Act European Journal of Risk Regulation https://doi.org/10.1017/err.2023.1Celso Cancela-Outeda (2024): The EU’s AI Act: A Framework for Collaborative Governance Internet of Things, Volume 27 https://doi.org/10.1016/j.iot.2024.101291BVDW “Verantwortungsvolle KI für die Digitale Wirtschaft” 241129_LF_Ethik_KI_ES.pdfVideo Podcast Sindead Bowell: Why smartphones will become obsolete..and what comes next📲 Media-Kanäle: 🔗 Sarah’s Instagram: @sarah_rojewski 🔗 Inken’s Instagram: @askinkenai

In der heutigen Folge geht es um das Grundlagenwissen rund um den EU AI Act? Was dürfen wir heute und was nicht? Was bedeutet eigentlich Hochrisiko KI und wie sieht das Spannungsfeld zwischen Regulierung und Innovation aus? Quellenverzeichnis: 1. Big Data Insider “Datenschutz in Europa. Zwischen Regulierung und Risiko (2025) https://www.bigdata-insider.de/datenschutz-in-europa-zwischen-regulierung-und-risiko-a-48da1150dab95436eac0d756c83a8978/ 2. Stanford University “Rethinking Privacy in AI Era” (2024) https://hai-production.s3.amazonaws.com/files/2024-02/White-Paper-Rethinking-Privacy-AI-Era.pdf3. Lernende Systeme Studie “Datenschutz für KI nutzen.Datenschutz für KI wahren” (2024) https://www.plattform-lernende-systeme.de/files/Downloads/Publikationen/AG3_WP_KI_Datenschutz_Datenschatz.pdf 4. European Parialement Studie “The impact of the General Data Protection Regulation (GDPR) on artificial intelligence” (2020) EPRS_STU(2020)641530_EN.pdf 5. Bundesminsiterium für Technologie, Forschung und Raumfahrt. Informationen Datentreuhandmodelle (2024)  Vernetzungskonferenz Datentreuhandmodelle 2024 - BMBF Digitale Zukunft 6. Prof. Norbert Pohlmann: „KI und IT-Sicherheit – Mehr Sicherheit, mehr Gefährdungen“ (Vortrag/Studie 2021)7.Ben Shneiderman (2020): „Human-Centered Artificial Intelligence: Reliable, Safe & Trustworthy“  arXiv.org  https://arxiv.org/abs/2002.040878. Jonas Schuett (2023): „Risk Management in the Artificial Intelligence Act“ European Journal of Risk Regulation https://doi.org/10.1017/err.2023.19. Cecilia Panigutti et al. (2023): „The role of explainable AI in the context of the AI Act“ ACM Conference on Fairness, Accountability, and Transparency (FAccT ’23)  https://doi.org/10.1145/3593013.359406910. Celso Cancela-Outeda (2024): „The EU’s AI Act: A framework for collaborative governance“ Internet of Things, Volume 27 https://doi.org/10.1016/j.iot.2024.10129111. Europäisches Parlament, EPRS (2024): „Artificial Intelligence Act – EU legislation in progress“https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A32024R1689📲 Media-Kanäle: 🔗 Sarah’s Instagram: @sarah_rojewski 🔗 Inken’s Instagram: @askinkenai

In dieser Folge sprechen wir darüber, was es heißt, Künstliche Intelligenz nicht nur zu nutzen, sondern zu verstehen und sie mitzugestalten.Denn KI-Kompetenz wird zur neuen Schlüsselressource: nicht nur für technisches Know-how, sondern für demokratische Teilhabe im digitalen Zeitalter.Wir fragen: Wie sieht KI-Kompetenz im Klassenzimmer konkret aus? Und welche Rolle spielen Lehrkräfte, Schulen und Politik, wenn es darum geht, Orientierung, Sicherheit und kritisches Denken zu fördern?🔗 Literatur & Studien:Schleiss, Johannes & Mah, Dana-Kristin (2023): Zukunftsszenarien und Handlungsfelder für KI in der Bildung.Knaus, Thomas (2023): Künstliche Intelligenz und Bildung – Chancen und Herausforderungen.Berendt, Judith (2021): KI im Klassenzimmer?U.S. Office of Educational Technology (2024): Artificial Intelligence (AI) in K12 Schools – National Roadmap.Artificial Intelligence (AI) in K12 Schools - Office of Educational Technology (EdTech) Leineweber, Christian et al. (2023): Materialität – Digitalisierung – Bildung (Klinkhardt Verlag).📲 Media-Kanäle: 🔗 Sarah’s Instagram: @sarah_rojewski 🔗 Inken’s Instagram: @askinkenai

Stell dir vor, du hast im Unterricht immer eine:n Tutor:in an deiner Seite. Geduldig, schnell, objektiv… und immer verfügbar.Künstliche Intelligenz verspricht genau das: Systeme, die Lernverläufe analysieren, Aufgaben personalisieren und Feedback geben, ohne Pause und ohne Bewertung.Doch was passiert, wenn aus Assistenz Steuerung wird? Wenn Systeme nicht nur helfen, sondern auch festlegen, was wie gelernt wird? In dieser Folge fragen wir: Wie verändert KI die pädagogische Beziehung und was bedeutet das für Lehrkräfte, Lernende und das Bildungsideal?🔗 Literatur & Studien:Harry, Alexandra (2023): Role of AI in Education.Zhai, Xiaojie et al. (2021): A Review of Artificial Intelligence (AI) in Education from 2010 to 2020.Schleiss, Johannes & Mah, Dana-Kristin (2023): Zukunftsszenarien und Handlungsfelder für KI in der Bildung.SWK – Ständige Wissenschaftliche Kommission (2024): Large Language Models und ihre Potenziale im Bildungssystem. Impulspapier. Large Language Models und ihre Potenziale im Bildungssystem. Impulspapier der SWK. Januar 2024Survey: Parents’ Views on AI Writing Tools in Education (2023). Survey results highlight parents' thoughts on AI writing, like ChatGPT, in educationBildungsportal NRW: lernen-digital.nrw📲 Media-Kanäle:🔗 Sarah’s Instagram: @sarah_rojewski🔗 Inken’s Instagram: @askinkenai

In dieser Auftaktfolge unserer dreiteiligen Reihe sprechen wir über die großen Versprechen und noch größeren Herausforderungen, die Künstliche Intelligenz für Bildungssysteme mit sich bringt. Wir schauen zurück auf die Entwicklung moderner Bildung, von Humboldt bis zu ChatGPT, und fragen: Wird KI zur Voraussetzung für Teilhabe oder zum Symptom eines Systems am Limit? Im Fokus stehen politische Visionen, technologische Potenziale und pädagogische Grundfragen: Was soll Bildung heute leisten und was darf sie nicht verlieren?🔗 Literatur & Studien:Zhai, Xiaojie et al. (2021): A Review of Artificial Intelligence (AI) in Education from 2010 to 2020.Berendt, Judith (2021): KI im Klassenzimmer?Knaus, Thomas (2023): Künstliche Intelligenz und Bildung – Chancen und Herausforderungen.Schleiss, Johannes & Mah, Dana-Kristin (2023): Zukunftsszenarien und Handlungsfelder für KI in der Bildung.Klar, Maria et al. (2023): Künstliche Intelligenz und schulische Bildung: Eine pädagogische Perspektive.Florence Gaub (2022): Zukunft – Eine Bedienungsanleitung.Meilensteine des deutschen Bildungssystems. bpb.deBildungsportal NRW: lernen-digital.nrw📲 Media-Kanäle: 🔗 Sarah’s Instagram: @sarah_rojewski 🔗 Inken’s Instagram: @askinkenai

In der heutigen Folge berichten wir noch einmal über die Viva Tech 2025 in Paris. Wir waren hautnah dabei als NVIDIA CEO Jensen Huang die Zukunft von KI Agenten und den Omnoverse vorgestellt hat und durften uns anschauen, wie zB die Beauty Branche von morgen aussieht. Ein Thema was uns, besonders am Herzen liegt ist Mentale Gesundheit in der technologiegetriebenen Welt und daher war insbesondere das kleine Interview mit Lara Gervaise, Gründer von Virtuosis ein Highlight. Jensen Huang Keynote: NVIDIA CEOJensen Huang Live GTC Paris Keynote at VivaTech 2025