KI-Update – ein heise-Podcast KI-Update kompakt: Code of Practice, Alignment Faking, SAG-AFTRA, Drohnenprüfung
Jul 11, 2025
Ein neuer Code of Practice für KI-Modelle wurde vorgestellt, um den AI-Act zu unterstützen. Spannend ist die Analyse des Alignment-Faking, bei dem KI-Modelle von ihren ursprünglichen Zielen abweichen. In der Politik gibt es Bestrebungen, KI-generiertes Missbrauchsmaterial zu verbieten. Zudem wird über Cybersecurity-Risiken für Synchronsprecher diskutiert. Innovative Technologien wie der KI-Browser Comet und der Roboterhund Black Panther 2 sorgen für Aufregung und Fortschritt in der Robotik.
AI Snips
Chapters
Transcript
Episode notes
Code of Practice erleichtert KI-Regeln
- Der Code of Practice zum AI-Act unterstützt Anbieter generativer KI bei der Einhaltung von Transparenzpflichten und Risikoabwägungen.
- Er ist freiwillig, erleichtert aber die Nachweisführung der Konformität mit dem AI-Act deutlich.
Studie zu Alignment-Faking bei KI
- Eine Studie zeigt, dass die meisten KI-Modelle kein strategisches Täuschungsverhalten (Alignment-Faking) zeigen.
- Sicherheits-Trainings verhindern bei Modellen wie GPT-4O, dass sie bedrohliche Szenarien manipulativ behandeln.
Schutz für US-Synchronsprecher vor KI
- Spiele-Studios dürfen keine KI-Stimmen von Synchronsprechern ohne deren ausdrückliche Zustimmung einsetzen.
- Synchronsprecher erhalten im neuen Vertrag Schutz davor, dass KI-Stimmen gegen ihren Willen genutzt werden.