Generatieve AI in de advocatuur: bezint eer gij begint

In dit artikel:

Generatieve AI kan juristen ondersteunen, maar brengt volgens Roeland de Bruin – van Gogh aanzienlijke juridische en professionele risico’s mee. De advocaat en AI-onderzoeker van de Universiteit Utrecht bespreekt die risico’s in zijn persoonlijke discussiedocument over het gebruik van taalmodellen in de rechtspraktijk.

LLM’s voorspellen op basis van patronen welke woordelementen waarschijnlijk volgen. Daardoor kunnen zij overtuigend klinkende, maar onjuiste antwoorden geven. Zulke hallucinaties zijn volgens De Bruin – van Gogh inherent aan de technologie. Advocaten mogen AI-output daarom nooit zonder controle overnemen in bijvoorbeeld processtukken.

Ook het invoeren van gegevens vraagt om voorzichtigheid. Persoonsgegevens kunnen onder de AVG verwerken betekenen, terwijl anonimiseren meer vereist dan het verwijderen van namen. Bij openbare AI-modellen is het gebruik van persoonsgegevens volgens hem daarom vaak moeilijk met de privacyregels te verenigen. Daarnaast kunnen auteursrecht, de verwerking van beschermd materiaal en de geheimhoudingsplicht rond cliënt- en dossierinformatie in het gedrang komen.

De AI-verordening en aanbevelingen van de Nederlandse Orde van Advocaten vragen om voldoende AI-geletterdheid. Juristen moeten onder meer begrijpen hoe taalmodellen werken, fouten herkennen, relevante regels toepassen en cybersecurityrisico’s inschatten. AI mag alleen ondersteunend worden ingezet; de advocaat blijft eindverantwoordelijk. De kern van De Bruin – van Goghs advies is daarom: beoordeel vooraf of een LLM nodig is en controleer zowel de ingevoerde informatie als de uitkomst.