Rechtspraak en AI

Bron: Rechtspraak.nl

De Rechtspraakstrategie voor artificiële intelligentie

Artificiële Intelligentie (AI) verandert de wereld ingrijpend. Het zal effect hebben op hoe de Rechtspraak werkt, het rechtspreken en het toezichthouden. Procespartijen zullen AI gebruiken, AI (of door AI gegenereerde content en besluiten) zal onderwerp van geschil zijn en AI zal impact hebben op bewijsvoering. AI kan ook oplossingen bieden voor de grote vraagstukken waarvoor de Rechtspraak staat zoals het structurele rechterstekort, toegang tot het recht en (te) lange doorlooptijden. Tegelijkertijd moeten we onze ogen niet sluiten voor uitdagingen als de bescherming van fundamentele rechten waaronder privacy, non-discriminatie en (rechterlijke) autonomie. Deze strategie beschrijft hoe de Rechtspraak tegen AI aankijkt en op welke wijze ze met deze ontwikkeling wil omgaan.

Artificiële Intelligentie is overal. AI is een systeemtechnologie en zal net als het internet onze samenleving ingrijpend veranderen. De Rechtspraak moet zich er hoe dan ook toe verhouden. Enerzijds manifesteert AI zich in de casuïstiek. Hoe gaan we om met door AI gegeneerde proces- en bewijsstukken? Welk effect heeft AI op bewijsvoering, equality of arms? Anderzijds biedt AI de Rechtspraak zelf ook kansen. Hoe benutten we die? Hoe zetten we AI in op de grote vraagstukken van de Rechtspraak?

We zien op korte termijn kansen voor het verbeteren van arbeidsintensieve administratieve en logistieke processen zoals roosteren en plannen, pseudonimiseren van uitspraken en het verbeteren van besturing van processen via voorspelmodellen voor instroom en routering. Of als hulpmiddel bij het opstellen van nieuwsberichten, brieven en presentaties etc.. Ook zien we kansen in het verbeteren van het contact met de maatschappij/burger; bijvoorbeeld door het automatisch samenvatten van uitspraken op B1-taalniveau en voorlichting door chatbots in natuurlijke taal. Maar ook in het juridisch werkveld denken we arbeidsintensieve processen te kunnen verbeteren met behulp van AI zoals termijncheck, het vinden van de juiste jurisprudentie en het opsporen van afwijkingen binnen de Rekening en Verantwoording-verslagen van Toezicht. En we zien een grote rol van AI bij de ondersteuning van het analyseren, structureren en samenvatten van grote, complexe dossiers en bijvoorbeeld het opstellen van concept-uitspraken.

Het gebruik van AI-technologie (zowel door procespartijen als door de Rechtspraak zelf) dient in overeenstemming te zijn met rechtsstatelijke eisen voor een eerlijk proces, de toegang tot de rechter en de rechterlijke onafhankelijkheid en onpartijdigheid. Dit lijkt een open deur maar dat is het niet. Technologie is niet waardevrij en bovendien door concentratie van kennis, kapitaal en data een machtsfactor. We moeten zorgen dat het rechterlijk domein gevrijwaard blijft van ongewenste technologische invloeden. Een hulpmiddel hierbij is de Europese AI-verordening. Deze verordening maakt onderscheid tussen laag- en hoogrisicotoepassingen en stelt allerlei verplichtingen bij het gebruik van AI, afhankelijk van het risicoprofiel. Als Rechtspraak volgen we deze verordening als vanzelfsprekend.

De rechterlijke macht vormt de derde staatsmacht en speelt een cruciale rol in de democratische rechtsstaat. Deze macht dient onafhankelijk te blijven, zowel van de twee politieke staatsmachten: de wetgevende en de uitvoerende macht, als van anderen. Artificiële Intelligentie (AI) heeft het potentieel om de rechterlijke autonomie direct en indirect te beïnvloeden. Zowel de Europese Unie in haar AI-Verordening als de Raad van Europa in CCJE Opinie 26 hebben uitdrukkelijk opgeroepen tot maatregelen die waarborgen dat AI de rechterlijke oordeelsvorming niet oneigenlijk beïnvloedt.

De ambitie van de rechtspraak is om risico's van AI te herkennen en hier passend mee om te gaan. Tegelijkertijd biedt AI een krachtig middel om grote uitdagingen van de rechtspraak aan te pakken. Het gebruik van AI vindt echter uitsluitend plaats binnen de kaders van de rechtsstaat, waarbij menselijke controle, transparantie en ethische waarborgen centraal staan.

De Rechtspraak ziet veel toegevoegde waarde in het gebruik van AI in laagrisicoprocessen en zet hier dan ook gericht op in. Dit gebeurt op verantwoorde wijze en in lijn met de kernwaarden van de rechtspraak. Door een 'learning-by-doing'-benadering wordt kennis en kunde opgebouwd, zowel technisch als juridisch en organisatorisch. Hiermee wordt een stevige basis gelegd om in de toekomst te kunnen voldoen aan de strenge eisen die gesteld worden aan hoogrisico-AI. Tot die tijd blijft de inzet van AI in hoogrisicoprocessen uitgesloten, om de onafhankelijkheid en betrouwbaarheid van de rechterlijke macht volledig te waarborgen.

De rechtspraak speelt een cruciale rol in de toepassing – maar daarmee ook nadere interpretatie - van het recht in een AI-tijdperk middels de concrete zaken die voorliggen. De rechtspraak is een wezenlijke actor in het vormgeven van rechtsbescherming, rechtszekerheid, etc. in een democratische rechtsstaat waarin AI steeds meer in de haarvaten doordringt (incluis het bieden van 'tegenwicht'). We hanteren een 10-puntenplan om deze strategie te realiseren:

1. We ontwikkelen een afwegingskader ten behoeve van de bescherming van de rechterlijke macht als onafhankelijke derde staatsmacht, de autonomie van de rechter, fundamentele grondrechten (w.o. artikel 6 EVRM), onze kernwaarden (w.o. voor AI relevante waarden als soevereiniteit en duurzaamheid), ethiek (bijvoorbeeld door het gebruik van de IAMA, dat staat voor de Impact Assessment Mensenrechten en Algoritmes), en dergelijke;

2. We richten onafhankelijk toezicht in op adequaat gebruik van dat afwegingskader, opdat niet alleen de vraag “'mogen' we het?", maar ook over de vraag “'willen' we het?" gesteld wordt;

3. We ontwikkelen samen met de vakinhoud visies, reglementen, afspraken of wat verder nodig is om in de casuïstiek adequaat om te kunnen gaan met AI. We zijn daarover in dialoog met relevante stakeholders zoals de NOvA en ketenpartners;

4. We investeren in een voorlichting-, ontwikkel- en trainingsprogramma naar omgang met AI in de casuïstiek van de rechterlijke praktijk. Dit doen we ook om nieuwe AI-toepassingen te herkennen, te ontwikkelen, te gebruiken en de juiste inzet te waarborgen;

5. We investeren en participeren actief in publieke initiatieven zoals gezamenlijk optreden met ketenpartners als J&V datalab, NFI en GPT-NL. Daarnaast werken we samen in Europees verband (ENCJ, CCJE), met maatschappelijke partijen en wetenschap;

6. We blijven experimenteren, mede op initiatief van de gerechten en ideeën vanuit de gerechten. Waar mogelijk schalen we snel op naar landelijke invoering en delen onze ervaringen;

7. We investeren in een data- en AI-platform dat naast experimenteren ook kan opschalen om daadwerkelijk toegevoegde waarde te kunnen leveren voor gerechten en rechtzoekenden;

8. We maken werk van het voortdurend verbeteren van de kwaliteit en beschikbaarheid van rechtspraakgegevens, omdat we beseffen dat deze randvoorwaardelijk zijn voor het gebruik van AI. We ontwikkelen een kader voor verantwoorde datadeling, rekening houdend met privacy, beschikbaarheid, integriteit, en vertrouwelijkheid van gegevens;

9. We richten ons met name op laagrisicotoepassingen. Door 'learning-by-doing' zijn we steeds beter in staat de randvoorwaarden in te vullen voor toepassingen die meer richting hoog risico gaan. Rechterlijke oordeelsvorming (zoals een robotrechter) sluiten we echter uit;

10. We zorgen voor adequate besturing en monitoring van AI-projecten en AI-toepassingen. We zijn compliant met de AI-verordening. We zijn transparant over de inzet van AI. Inzet van AI nemen we op in een publiek toegankelijk algoritme/AI-register. We evalueren en updaten onze AI-strategie regelmatig, in lijn met technologische en maatschappelijke ontwikkelingen.