Chatbot, Hacker, Spion - Kann ich meiner KI vertrauen?

8 snips

Mar 4, 2025

In dieser spannenden Diskussion wird die doppelte Natur von KI beleuchtet: Sie steigert die Produktivität, öffnet aber auch Türen für Cyberkriminalität. Die Gefahren von Deepfakes und KI-generierten Phishing-Mails werden thematisiert. Außerdem wird die Herausforderung der Cybersicherheit in der KI-Ära erörtert und wie KI zum unkontrollierten Risiko werden kann. Auch die Risiken von Datenvergiftung und die Herausforderungen bei der Nutzung lokaler KI-Modelle kommen zur Sprache. Wie können wir uns also schützen, ohne auf die Vorteile von KI zu verzichten?

Ask episode

AI Snips

Chapters

Transcript

Episode notes

ANECDOTE

Deepfake-Betrug in Hongkong

Kriminelle nutzen KI für Betrug, wie in Hongkong Ende 2023.
Ein Finanzangestellter überwies 25 Millionen Euro nach einem Deepfake-Videocall.

INSIGHT

KI-gestütztes Spear-Phishing

KI macht Spear-Phishing deutlich günstiger, wie eine Studie der Harvard Kennedy School zeigt.
KI-generierte Phishing-Mails sind genauso effektiv wie menschlich geschriebene, aber 30-mal günstiger.

ADVICE

Datenschutz bei KI-Nutzung

Geben Sie keine vertraulichen Daten in öffentliche KI-Tools ein, da diese für Trainingszwecke verwendet werden könnten.
Nutzen Sie für sensible Daten Unternehmenslösungen oder lokale Modelle.

Get the Snipd Podcast app to discover more snips from this episode

Get the app

KI-Tools machen uns produktiver - aber auch verwundbarer. Während wir ChatGPT & Co. in unseren Alltag integrieren, öffnen sich gleichzeitig neue Türen für Cyberkriminelle. Von täuschend echten Deepfakes bis hin zu KI-generierten Phishing-Mails: Die digitale Unterwelt rüstet auf. Wie wir uns schützen können, ohne auf die Vorteile von KI zu verzichten, diskutieren Gregor und Fritz in der neuen Folge des KI-Podcasts. Über die Hosts: Gregor Schmalzried ist freier Tech-Journalist, Speaker und Berater, u.a. beim Bayerischen Rundfunk. Fritz Espenlaub ist freier Journalist und Ökonom. Er arbeitet unter anderem für den Bayerischen Rundfunk und das Tech-Magazin 1E9. 00:00 Intro 04:10 KI als Schwachstelle 11:40 KI als Angriffshilfe 19:55 KI als Datenrisiko 30:28 Was haben wir diese Woche mit KI gemacht? Nützliche Links: Splunk Cybersicherheitsreport: https://www.splunk.com/de_de/form/state-of-security.html Enkeltricks mit Deepfakes: https://www1.wdr.de/nachrichten/enkeltrick-mit-kuenstlicher-intelligenz100.html Der KI-Scam bei der Hong Kong Bank: https://edition.cnn.com/2024/02/04/asia/deepfake-cfo-scam-hong-kong-intl-hnk/index.html?ref=platformer.news Falsche Ausweise dank KI? https://www.404media.co/inside-the-underground-site-where-ai-neural-networks-churns-out-fake-ids-onlyfake/ Wie KI Passwörter sicherer machen kann: https://www.okta.com/blog/2025/02/how-cracking-passwords-can-be-easier-in-the-age-of-aiml/ KI am Arbeitspltz bei Gen Z: https://www.axios.com/2024/11/25/gen-z-ai-work-survey Unser Podcast-Tipp der Woche: https://www.ardaudiothek.de/sendung/bayern-3-true-crime-schuld-und-unschuld/78029956/ Redaktion und Mitarbeit: David Beck, Cristina Cletiu, Chris Eckardt, Fritz Espenlaub, Elisa Harlan, Franziska Hübl, Marie Kilg, Mark Kleber, Gudrun Riedl, Christian Schiffer, Gregor Schmalzried Kontakt: Wir freuen uns über Fragen und Kommentare an kipodcast@br.de. Unterstützt uns: Wenn euch dieser Podcast gefällt, freuen wir uns über eine Bewertung auf eurer liebsten Podcast-Plattform. Abonniert den KI-Podcast in der ARD Audiothek oder wo immer ihr eure Podcasts hört, um keine Episode zu verpassen. Und empfehlt uns gerne weiter!