AP: toezicht en transparantie rond AI blijven achter
In dit artikel:
De Autoriteit Persoonsgegevens (AP) waarschuwt in de nieuwste Rapportage AI & Algoritmes Nederland dat de toepassing van kunstmatige intelligentie en algoritmes snel toeneemt, terwijl toezicht, transparantie en governance daar niet in tempo bijblijven. Organisaties zetten AI vaker in, maar de juridische kaders en toezichtmechanismen rond privacy, discriminatie en uitlegbaarheid blijven onderontwikkeld, waardoor basisrechten onder druk kunnen komen te staan.
Voor juristen en organisaties is relevant dat AI-toepassingen vaak direct met bestaande wettelijke plichten botsen, zoals de AVG en straks de Europese AI-verordening. De uitvoering van die verordening stokt: lidstaten lopen achter met het aanwijzen van toezichthouders, opzetten van toezichtstructuren en het vaststellen van standaarden die nodig zijn voor naleving. Deze onzekerheid brengt zowel juridische risico’s als economische nadelen met zich mee voor ontwikkelaars en gebruikers van AI.
Het rapport signaleert ook bredere systeemrisico’s: fouten of storingen in AI kunnen niet alleen individuele mensen treffen, maar hele maatschappelijke systemen verstoren — denk aan financiële markten (algoritmische handel), afhankelijkheid van een klein aantal AI-leveranciers en de maatschappelijke effecten van aanbevelingsalgoritmes op informatiedeling. Nieuwe technologieën zoals generatieve AI en autonome agents vergroten het risico dat systemen zelfstandig besluiten nemen zonder voldoende menselijke controle. De AP benadrukt dat zulke risico’s alleen met een gecoördineerde aanpak van wetgevers, toezichthouders en bedrijven zijn te beheersen.
Een concreet voorbeeld waar juridische risico’s duidelijk worden, is werving en selectie. Werkgevers gebruiken AI voor vacatureteksten, screening en beoordeling; dat kan efficiëntie brengen, maar ook bestaande vooroordelen verergeren en gebrek aan transparantie veroorzaken, wat in strijd kan zijn met het recht op uitleg en AVG-verplichtingen. De Europese AI-verordening zal sollicitatie-AI als hoog-risico bestempelen en strengere eisen stellen aan datakwaliteit, transparantie en menselijk toezicht.
De AP roept het kabinet op snel duidelijke kaders, toezicht en transparantie te regelen, om te voorkomen dat technologische vooruitgang de wettelijke bescherming van burgers overvleugelt.