Posted by Online zoeken in gerechtelijke uitspraken, zelflerende computers die patronen berekenen – technologie zal de rechtspraak de komende jaren diepgaand veranderen. Gaan robots binnenkort op de stoel van de rechter zitten? Nee. Voor het nemen van de uiteindelijke beslissingen blijven mensen nodig.
Rechter Erik Koster nam het onlangs op tegen een computer. Op uitnodiging van de Raad voor de Rechtspraak deed hij mee aan een experiment: hoe zou een robotrechter over zijn zaken beslissen? Koster mocht twee zaken uitkiezen. De eerste werd een verkeerszaak, waarin een automobilist een boete had gekregen omdat hij een rotonde linksom had genomen. De andere zaak ging over het ontslag van een financieel directeur en het bepalen van de ontslagvergoeding.
“Ik was benieuwd wat een computer met de vergoeding zou doen, want dat is juridisch nogal lastig”, zegt Koster, rechter in het arrondissement Overijssel. De wet zegt weinig over de hoogte van de vergoeding, het oordeel wordt grotendeels aan de rechter overgelaten.
De robot die met deze zaken aan de slag ging, is een computersysteem gemaakt door LexIQ. Dit bedrijf biedt software aan die juristen kan helpen bij het doorspitten van grote hoeveelheden juridische data. Met de software kunnen zij sneller onderzoek doen en statistieken over de prestaties van rechters en advocaten produceren. Maar dit experiment ging een stap verder: zou de computer een voorspelling kunnen doen over een uitspraak?
Teveel gevraagd
Dat was nog teveel gevraagd, concludeert Koster. De computer scande vergelijkbare zaken uit het verleden om een gok te doen over de zaken van nu. In de verkeerszaak voorspelde de robot dat de boete betaald moest worden. Maar hij had een belangrijk feit over het hoofd gezien. Bij de betreffende rotonde ontbrak een verkeersbord. Iedereen gaat ervan uit dat een rotonde rechtsom moet worden genomen, zegt Koster, maar dat is zo omdat verkeersborden een verplichte rijrichting aangeven. “Als zo’n bord er niet staat, mag je hem ook linksom nemen.”
In de arbeidszaak was het bedrag van de ontslagvergoeding dat de robot voorstelde tien keer lager dan de 65.000 euro die de rechter had vastgesteld. “Ik zag het handwerk van een rechter er nog niet in terug”, zegt Koster.
Of robots ooit de rechtershamer in handen zullen krijgen is de vraag, maar het staat buiten kijf dat technologie de rechtspraak de komende jaren diepgaand zal veranderen. Frits Bakker, voorzitter van de Raad voor de Rechtspraak, pleitte eerder dit jaar voor het automatiseren van routinematige rechtszaken die gemakkelijk afgedaan kunnen worden, zodat er voor rechters meer tijd overblijft voor de menselijke zaken. “De modellen die uitspraken analyseren en voorspellen bestaan al. En ze zullen het leven van de rechter veranderen”, zei Bakker. “Misschien moeten we wel helpen bij de ontwikkeling.”
Goudmijn aan data
Legaltech heet het vakgebied van modellen en technologieën, gemaakt voor juridische dienstverlening. Innovatie is in de vrij conservatieve juridische sector lang geen prioriteit geweest, maar ook in de wetenschap begint dit vakgebied nu pas langzaamaan aandacht te krijgen. Zo raakte Gijs van Dijck, hoogleraar privaatrecht aan de Universiteit Maastricht, onlangs in de ban van de netwerkanalyse. Deze methode wordt in de sociologie gebruikt om sociale netwerken in kaart te brengen. Wie praat met wie? En wie verbindt de ene groep met de andere? Zo kan bijvoorbeeld in kaart gebracht worden of jongeren die roken elkaar beïnvloeden via vriendengroepen.
Van Dijck dacht: wat als we in die analyse de mensen vervangen door rechtszaken? Als er in een tekst van een uitspraak wordt verwezen naar een andere uitspraak, ontstaat er een netwerk van jurisprudentie dat juristen kan helpen om verbanden tussen zaken te leggen. Dit kan ook wetenschappers helpen om te onderzoeken hoe de rechtspraak zich ontwikkelt. Voor zijn onderzoek kreeg hij een subsidie van het Netherlands eScience Center.
Voor zijn werk was Van Dijck afhankelijk van de digitalisering van gerechtelijke uitspraken. Dat is een immense klus waar de rechterlijke macht al sinds 1999 mee bezig is. De teksten moeten allemaal op dezelfde manier opgemaakt en genoteerd worden, anders zijn ze niet goed te doorzoeken voor computers. Bovendien moeten ze allemaal met de hand geanonimiseerd worden. In de databank rechtspraak.nl staan inmiddels de uitspraken van de hoogste rechters vanaf het jaar 2000, en zo’n zes procent van de uitspraken van lagere rechters. Het is een goudmijn voor big-data-fanaten die hun analyses er graag op loslaten.
Resultaat
Van Dijck laat het resultaat van zijn werk zien op zijn computerscherm. Hij zoekt naar rechtszaken op het gebied van werkgeversaansprakelijkheid, op zijn scherm verschijnen stipjes en lijntjes. Sommige stippen worden steeds groter, dat zijn de populaire rechtszaken waarnaar vaak is verwezen. Er ontstaan clusters rondom thema’s zoals zaken over het toezicht op de veiligheid van een werkplaats. “In tien minuten kun je een dataset samenstellen van al die uitspraken, en dan patronen gaan zien”, zegt Van Dijck. Het zal juristen heel wat werk schelen.
Prakken wil eerst graag een misvatting uit de wereld helpen. Het idee dat computers binnenkort al zelfstandig gerechtelijke besluiten kunnen nemen is volgens hem onwaar. Hij geeft een voorbeeld. Recent was er het nieuws dat Britse onderzoekers een bijzondere vorm van kunstmatige intelligentie hadden ontwikkeld. Ze zouden met 79 procent nauwkeurigheid kunnen voorspellen of het Europees Verdrag voor Rechten van de Mens geschonden was. ‘Software kan juridische bewijzen en morele vragen van goed en kwaad afwegen’, kopte dagblad The Guardian enthousiast. “Dat is onzin”, zegt Prakken. “Wat dat systeem doet, is niets anders dan woorden tellen.” Het speurt naar overeenkomstige woorden in teksten van uitspraken in het verleden, vertelt Prakken. “En dan komt het via een statistisch model tot een voorspelling.”
Kansloze rechtszaken
Voor de jurist die geen geld wil verspillen aan kansloze rechtszaken is het nuttig om te weten hoe groot de kans op welslagen van een rechtszaak is. Maar dit heeft nog niets te maken met het nemen van beslissingen, zegt Prakken, die juist verder wil gaan dan statistische analyses. Hij werkt daarom samen met IT-experts aan iets dat cognitive computing heet, met het doel mens en computer te laten samenwerken opdat ze samen betere beslissingen nemen.
Ook dit onderzoek is afhankelijk van technieken om teksten te doorzoeken. Met behulp daarvan kan de computer argumenten in vergelijkbare rechtszaken herkennen. Als dit onderzoek slaagt, zou een advocaat bijvoorbeeld de feiten van de nieuwe zaak kunnen invoeren en zou de computer vervolgens kunnen achterhalen op welke eerdere rechtszaak de nieuwe zaak het meeste lijkt. De computer zou dan de argumentatie uit die zaak kunnen reproduceren.
De zelflerende computer Watson van IBM kan het al: simpele voors en tegens van een stelling op een rij zetten. Wie Watson de vraag voorlegt of de verkoop van gewelddadige videospellen aan jonge kinderen verboden moet worden zal een aantal eenvoudige argumenten van de robot terugkrijgen. “Maar dit is allemaal nog heel basaal”, zegt Prakken. “Een computer kan nog lang geen echte juridische en sociale afwegingen maken.” De hoogleraar denkt niet dat autonoom beslissende robots ooit op de stoel van de rechter zullen plaatsnemen.
Besluiten uitleggen
Prakken ziet wel dat juristen steeds vaker software als hulpmiddel inzetten. In de Verenigde Staten wordt op dit moment op grote schaal gebruik gemaakt van systemen die rechters en advocaten in hun werk ondersteunen. Veel van die systemen zijn door bedrijven gemaakt. Prakken noemt het voorbeeld van een programma dat voorspelt hoe groot de kans is dat een crimineel opnieuw de fout in gaat. Het probleem is volgens de onderzoeker dat bedrijven niet altijd de algoritmes, de codes, van hun systeem willen vrijgeven. “Een gebrek aan transparantie in dit soort systemen is juridisch gezien een groot probleem.”
Neem de zaak van Eric L. Loomis in de staat Wisconsin, die in 2013 werd opgepakt omdat hij in een auto reed die was gebruikt tijdens een schietpartij. Hij bekende uiteindelijk dat hij had geprobeerd te vluchten voor de politie en dat hij in de auto reed zonder medeweten van de eigenaar. De rechter veroordeelde hem tot zes jaar gevangenisstraf, niet alleen vanwege deze vergrijpen, maar ook vanwege zijn score in een computersysteem voor risicoanalyse genaamd Compas. Volgens deze software was de kans op recidive groot. Loomis vocht dat vonnis aan, omdat de rechter zich op algoritmes baseerde die hij niet kon uitleggen. Maar de veroordeelde ving bot, tot de hoogste rechter aan toe.
De wetenschapper hoopt zijn programma de komende tijd verder te ontwikkelen. Hij wil de code voor het programma delen met anderen, want hij vindt het belangrijk dat juist wetenschappers deze toepassingen ontwikkelen op een rigoureus wetenschappelijke manier. “Je moet ervan uit kunnen gaan dat het betrouwbaar is en vrij toegankelijk.” Dat zijn eigen programma ook minpunten heeft, geeft hij toe. Zo bestaat de kans dat je je als jurist blindstaart op de populaire rechtszaken. “We mogen niet lui worden. Dit ontslaat je als jurist niet van zelf nadenken en creativiteit.”
Zelflerende computers
“De laatste jaren gebeurt er heel veel op juridisch technologisch gebied”, zegt Henry Prakken, universitair docent intelligente systemen aan de Universiteit Utrecht en hoogleraar rechtsinformatica en juridische argumentatie aan de Rijksuniversiteit Groningen. Prakken doet al dertig jaar onderzoek doet naar kunstmatige intelligentie in het recht. Maar twee ontwikkelingen brengen zijn vakgebied in een stroomversnelling: dat er steeds meer teksten van uitspraken online beschikbaar komen, en de opkomst van machine learning: computers die leren
Veel wetenschappelijk onderzoek
Prakken verwacht dat er in de komende tien tot vijftien jaar veel wetenschappelijk onderzoek nodig zal zijn om beter inzicht te kunnen geven in de werking van dergelijke algoritmes. “Dat is in het recht cruciaal. Het is zelfs een grondrecht, want iedere burger heeft er recht op dat een juridische beslissing wordt uitgelegd.”
Rechter Erik Koster vertelt dat ook in Nederland wel systemen worden gebruikt om de kans op recidive vast te stellen. Maar als rechter wil hij altijd weten welke variabelen er in dat systeem zijn ingevoerd om dat gevaar te bepalen. Hij hecht daarom meer waarde aan het bijgaande rapport van bijvoorbeeld de reclassering waarin al die factoren worden genoemd. “Als een computerprogramma aan mij zou vertellen dat het risico hoog is, dan zou ik dat niet zomaar geloven. Ik wil als rechter dat risico kunnen voelen en beredeneren.”
Zal Koster uiteindelijk gaan samenwerken met een robotrechter die hem in zijn werk ondersteunt? “Kunstmatige intelligentie zal vast meer mogelijkheden in zich hebben dan ik op dit moment kan bevroeden”, zegt hij. Maar voorlopig, denkt Koster, zullen burgers voorkeur blijven geven aan een menselijke rechter boven een rechtlijnige robotrechter, die geen oog kan hebben voor de bijzonderheden van de specifieke zaak. “Dat er toekomst is voor een robotrechter sluit ik niet uit. Maar ik ga dat niet meer meemaken.”
Robot Ross gaat naar kantoor
Tijd is geld, ook in de advocatuur. Dus als advocaten minder lang bezig zijn met juridisch onderzoek, kunnen ze dan goedkoper worden en daarmee toegankelijker voor mensen met een kleine portemonnee? Dat was het idee achter robot Ross, ontwikkeld door drie studenten aan de Universiteit van Toronto, in Canada. Zij combineerden kunstmatige intelligentie, spraaktechnologie en big data-technologie in een systeem dat vragen van juristen kan beantwoorden. Ross is als een slimme spraakassistent, zoals Siri van Apple, maar dan voor juridische vragen.
Het Amerikaanse advocatenkantoor Baker & Hostetler zegt Ross aangenomen te hebben voor de afdeling faillissementen. Zullen Ross en robotcollega’s binnen afzienbare tijd de banen van advocaten inpikken?
Dat zal zo snel niet gaan. De Amerikaanse wetenschappers Dana Remus en Frank Levy deden enkele jaren geleden onderzoek naar automatisering in de advocatuur. Ze zetten op een rij waar Amerikaanse advocaten hun tijd aan besteden en concludeerden dat als alle op dat moment beschikbare technologieën op advocatenkantoren gebruikt zouden worden, de hoeveelheid werk voor advocaten met 13 procent zou afnemen. Voor het meeste werk is nog altijd menselijke intelligentie nodig, aldus Remus en Levy.