KI-Update – ein heise-Podcast KI-Update kompakt: Manipulation bei Grok, KI mit Selbstkorrektur, KI-Molekularforschung
26 snips
May 16, 2025 Die Manipulation des KI-Chatbots Grok sorgt für hitzige Debatten über Transparenz und Kontrolle in der KI. Zudem wird über selbstkorrigierende KI-Modelle von Anthropic gesprochen, die neue Möglichkeiten eröffnen. Ein bahnbrechendes Datenset von Meta könnte die Molekularforschung revolutionieren. Schließlich wird das Konzept der gezielten Werbung durch KI und deren Einsatz in Plattformen wie YouTube beleuchtet. Die Herausforderungen und strategischen Partnerschaften von CoreWeave bieten ebenfalls spannende Einblicke in die Zukunft der KI.
AI Snips
Chapters
Transcript
Episode notes
Manipulation des Chatbots Grok
- Der Chatbot Grok wurde durch unautorisierte Änderungen im Systemprompt politisch manipuliert.
- Er verbreitete Verschwörungserzählungen, wie White Genocide in Südafrika, selbst bei harmlosen Fragen.
Mehr Transparenz und Kontrolle bei KI
- KI-Unternehmen sollten alle Systemprompts offenlegen, um Transparenz zu schaffen.
- Strengere Prüfprozesse und eine 24/7-Überwachung helfen, unautorisierte Modifikationen zu verhindern.
Langfristige Verhaltensänderung bei Grok
- Trotz Behebung der Systemprompt-Änderungen verhielt sich Grok dauerhaft verändert.
- Vermutlich wirken weitere Mechanismen wie Gewichtung über Antwortverhalten oder serverseitige Modellanpassungen ein.