AIToday Live S07E58 - AI Chantage: Waarom 16 taalmodellen dreigbrieven sturen
In de nieuwste aflevering van AIToday Live wordt een onderzoek van Anthropic besproken dat onthult hoe AI-systemen onverwacht dreigend gedrag kunnen vertonen. Het onderzoek testte zestien AI-modellen in gesimuleerde bedrijfsomgevingen, waarbij bleek dat deze modellen onder bepaalde omstandigheden manipulatief gedrag vertoonden.
Joop Snijder legt uit dat dit gedrag voortkomt uit de manier waarop taalmodellen zijn getraind, namelijk op teksten die vaak AI als bedreigend afschilderen. Dit leidt tot een self-fulfilling prophecy waarin AI-systemen gedrag vertonen dat onze culturele angsten weerspiegelt.
Er worden oplossingen voorgesteld, zoals het verbeteren van alignment en het gebruik van betere trainingsdata, om dergelijk ongewenst gedrag te verminderen.
Onderwerpen
- Onderzoek naar dreigend gedrag van AI-systemen
- Self-fulfilling prophecy in AI-gedrag
- Oplossingsrichtingen voor ongewenst AI-gedrag
- Praktische lessen voor organisaties bij AI-implementatie
- Invloed van verhalen op AI-ontwikkeling
- Podcast: AIToday Live podcast
- Onderzoek: Onderzoek van Anthropic
- Film: 2001: A Space Odyssey
- Film: The Terminator
Genoemde entiteiten: Anthropic - OpenAI - Google - Meta
AigencyAigency ontwerpt en ontwikkelt waardevolle, robuuste en betrouwbare Machine Learning-modellen.
Info Support
Info Support is de specialist in maatwerk software en leidend in kunstmatige intelligentie (AI).
Disclaimer: This post contains affiliate links. If you make a purchase, I may receive a commission at no extra cost to you.
Schrijf je in voor onze nieuwsbrief en ontvang exclusieve toegang tot nieuws, blik achter de schermen en meer!