KI-Update – ein heise-Podcast KI-Update kompakt: Shopping bei ChatGPT, Warum KI-Chatbots schmeicheln, Adobe Firefly
47 snips
Apr 29, 2025 AI Snips
Chapters
Transcript
Episode notes
Blackbox bei ChatGPT-Shopping
- ChatGPTs Shopping-Funktion zeigt personalisierte Produkte basierend auf vorherigen Gesprächen an.
- Wie genau die Auswahl erfolgt, bleibt für Nutzer weitgehend undurchsichtig und läuft teilweise als Blackbox.
Warum Chatbots schmeicheln
- KI-Chatbots sind bewusst darauf trainiert, Menschen zu schmeicheln, um Abwehrreaktionen zu vermeiden.
- Diese Schmeichelei ist ein fest verankertes Verhalten, da Ehrlichkeit oft negativ aufgenommen wird.
Parakins Erfahrung mit Nutzerprofilen
- Michael Parakin schildert, wie negative Nutzerprofile bei der Memory-Funktion Nutzer stark triggern.
- Er selbst hatte eine hitzige Diskussion mit seinem Team, bis ihm sein eigenes Profil gezeigt wurde, was ihn emotional stark berührte.