Rechter verbiedt uitkleedfunctie in chatbot Grok

In dit artikel:

De rechtbank Amsterdam heeft donderdag verboden dat de chatbot Grok in Nederland nog een functie aanbiedt waarmee gebruikers met AI naaktbeelden kunnen laten genereren. De tool, ontwikkeld door xAI van ondernemer Elon Musk, kon via prompts zowel expliciete afbeeldingen van volwassenen als van kinderen produceren; het ging daarbij om volledig virtuele slachtoffers maar ook om nepbeelden van echte personen. Het verbod kwam er na een kort geding dat was aangespannen door Fonds Slachtofferhulp en het expertisecentrum Offlimits, die schadelijke gevolgen voor slachtoffers en risico’s van deepfake-exploitatie aanvoerden. De uitspraak beperkt Grok’s aanbod binnen Nederland en weerspiegelt bredere zorgen over AI-toepassingen die seksuele misbruik en schending van privacy kunnen vergemakkelijken.