GenAI in de advocatuur: bezint eer gij begint

In dit artikel:

Generatieve AI kan juristen ondersteunen, maar brengt volgens Roeland de Bruin – van Gogh aanzienlijke juridische en professionele risico’s mee. De onderzoeker en docent aan de Universiteit Utrecht en senior advocaat bij Kienhuis Legal bespreekt die aandachtspunten in zijn persoonlijke discussiedocument over het gebruik van taalmodellen in de rechtspraktijk.

Advocaten moeten begrijpen dat LLM’s vooral voorspellen welke woordelementen waarschijnlijk volgen. Daardoor kunnen antwoorden overtuigend klinken terwijl ze feitelijk onjuist zijn. Hallucinaties zijn volgens De Bruin – van Gogh inherent aan de technologie, zodat juridische professionals alle AI-output zelf moeten controleren. Aanleiding voor zijn waarschuwing zijn onder meer gevallen waarin advocaten foutieve AI-informatie in processtukken overnamen.

Ook privacy, auteursrecht en geheimhouding vereisen voorzichtigheid. Het invoeren van persoonsgegevens kan onder de AVG een verwerking vormen waarvoor de gebruiker verantwoordelijk is; anonimiseren is bovendien ingewikkelder dan alleen namen verwijderen. Bij openbare AI-modellen kan het gebruik van persoonsgegevens daarom vaak problematisch zijn. Het verwerken van auteursrechtelijk beschermd materiaal kan daarnaast reproductie opleveren, terwijl cliënt- en dossierinformatie onder de geheimhoudingsplicht valt.

De AI-verordening en aanbevelingen van de Nederlandse Orde van Advocaten vragen om voldoende AI-geletterdheid, waaronder kennis van LLM’s, foutdetectie, regelgeving en cybersecurity. AI mag uitsluitend ondersteunend zijn: de advocaat blijft verantwoordelijk voor de uiteindelijke juridische beoordeling. De kern van het advies luidt daarom dat juristen vooraf moeten afwegen of een LLM nodig is, zorgvuldig met input moeten omgaan en zowel input als output moeten controleren.