Artificiële intelligentie is gebaseerd op historische datasets en de uitkomst zal dan ook in lijn liggen van historische beslissingen. Daardoor betonneert de rechtspraak en verdwijnt evolutie. Ze houdt geen rekening met vernieuwing en kan dat ook niet.

Adrien van den Branden, Matthias Dobbelaere-Welvaert, Erik Boerma en Erik De Herdt gaan met elkaar in debat over artificiële intelligentie (AI) in de rechtspraak.

Experts over AI in het recht

Matthias Dobbelaere-Welvaert spreekt bovenstaande bewering tegen: “Dat is te kort door de bocht. Het is niet omdat je een AI-systeem eenmaal voedt met data dat je de data daarna niet meer kan aanvullen. Een dataset is niet fixed, dat is een continue stroom van gegevens. Wat ik me wel kan voorstellen, is dat na pakweg tien jaar AI-gebruik, een jurist minder creatief wordt omdat hij te zwaar op AI gaat steunen.”

Erik Boerma stelt zich de vraag of rechters wel zo sterk hun eigen pad volgen. “Ik was laatst bij professor Gijs van Dijck van de universiteit van Maastricht en die heeft een programmaatje gemaakt op basis van gerechtelijke data, dat verwijzingen in kaart brengt. Ik verwijs als rechter naar die uitspraak en die uitspraak baseert zich op een uitspraak van de Hoge Raad van tien jaar geleden – dat idee. En dan zie je organische ‘eilandjes van uitspraken’ ontstaan. Fascinerend, want sommige eilandjes worden heel groot omdat er heel veel naar verwezen wordt. En organisch groeit dat almaar verder. Hoe dan ook: op die manier kan je eigenlijk heel mooi de evolutie van rechtspraak in kaart brengen én ook aangeven of rechters hun eigen pad volgen.”

“Als je gebruikmaakt van AI zijn er zeker zaken die je goed in de gaten moet houden”, merkt Erik De Herdt op. “De kwaliteit van de data bijvoorbeeld. Daar geldt de regel: garbage in, garbage out. Als de kwaliteit van de ingevoerde data ondermaats is, zal het resultaat van het AI-systeem ook niet veel soeps zijn. Er zijn voorbeelden in de VS van data-analyses waaruit zou moeten blijken dat bepaalde bevolkingsgroepen hoger scoren op recidivisme. Ga je zoiets gebruiken om een uitspraak te doen of de strafmaat te bepalen?”

“In Frankrijk heeft men een systeem van predictive analysis uitgeprobeerd”, voegt Adrien van den Branden eraan toe. “De verwachtingen waren hooggespannen; de resultaten echter niet overtuigend. De reden was, alweer, de kwaliteit van de data en het te kleine aantal datasets. Daardoor gaf het systeem heel extreme voorspellingen. Om echter terug te komen op de hamvraag of evolutie verdwijnt door AI en alles één richting wordt uitgeduwd… Ik denk dat hier het begrip ‘performativiteit’ belangrijk is, het effect dat het bekendmaken van een resultaat, bijdraagt aan de komst ervan. Weliswaar worden rechters nu ook beïnvloed door bestaande rechtspraak maar toch speelt hier blijkbaar een sterk selffulfilling prophecy-effect. Het is voor een rechter makkelijker om een first opinion te volgen dan ertegenin te gaan. En een hoger beroep is nooit leuk voor een magistraat.”

“In menselijke uitspraken spelen ook menselijke vooroordelen”, zegt Erik Boerma”. “Als ik m’n taak goed doe, herken ik die en hou ik er geen rekening mee. Dat is natuurlijk de theorie. Er bestaat onderzoek waaruit blijkt dat rechters strenger straffen net voor de lunch, want dan hebben ze honger. Maar een veel pertinentere kwestie is hoe men omgaat met hoger beroep in een AI-wereld. Krijg ik dan een slimmere AI dat moet oordelen? Of een compleet nieuwe AI? Of dezelfde AI met nieuwe data? Of wordt hoger beroep afgeschaft?”

Conclusie

Dat AI de rechtspraak zou betonneren is volgens ons panel lang geen vaststaand feit. Het hamert wel op de factor datakwaliteit naast enkel kwantiteit, of, zoals Erik De Herdt het stelt: “Garbage in, garbage out”. “Bias of vooringenomenheid moet men dus uit AI programmeren”, beklemtoont Matthias Dobbelaere-Welvaert. Zoals uit de vorige stellingen ook al bleek, ziet niemand AI op korte termijn zelfstandig vonnissen vellen. Al kan AI misschien wel een interessante sparring partner worden. “Mijn leukste zaken als rechter, vind ik de zaken die ik met twee collega’s kan behandelen”, merkt Erik Boerma op. “Door bezuinigingen moeten we veel zaken alleen afhandelen. Meestal werkt dat prima, maar je mist soms verschillende invalshoeken. Voor meer discutabele zaken kan AI daar misschien een oplossing betekenen.”

Frederic Petitjean

Orde van Vlaamse Balies