Rechter: uitkleedfunctie Grok verboden, flinke dwangsom

In dit artikel:

Offlimits en Fonds Slachtofferhulp wonnen een kort geding tegen xAI over de Grok-app: de rechtbank in Nederland verplicht het bedrijf maatregelen te nemen zodat gebruikers niet langer zonder toestemming naaktbeelden van Nederlanders kunnen laten genereren. De zaak kwam voort uit honderden meldingen van AI-gegenereerde naaktbeelden die slachtoffers nooit hebben goedgekeurd.

In de rechtbank toonde Offlimits aan dat Grok, dat een ‘spicy mode’ heeft voor expliciete afbeeldingen, zelfs promptmatig seksuele beelden van minderjarigen kan produceren (bijvoorbeeld een verzoek om een 14‑jarig meisje met een 30‑jarige man). Directeur Robbert Hoving benadrukte dat het maken van dergelijke beelden verboden is en dat ook nepbeelden ernstige gevolgen hebben voor slachtoffers en de drempel voor misbruik verlagen.

De rechter gelast dat xAI het genereren van niet‑consensuele naaktfoto’s van Nederlanders onmogelijk maakt en dat kinderporno via de app in Nederland stopt. xAI moet aan de rechtbank uitleggen hoe het dit gaat doen; bij niet‑naleving geldt een dwangsom van €100.000 per dag, met een plafond van €10 miljoen.

Tegelijkertijd stemde het Europees Parlement diezelfde dag voor een verbod op apps met AI‑uitkleedfuncties, een maatregel die naar verwachting voor de zomer in de hele EU van kracht wordt — een bredere politieke reactie op de technische mogelijkheden die zulke diensten bieden.