Algoritmes moeten openbaar zijn en er moet specifieke ethische en technische controle op bestaan. Dat hoeft niet problematisch te zijn. Hoewel artificiële intelligentie nieuw is, kan het mutatis mutandis benaderd worden vanuit bestaande regels en structuren. Maar is dat wel zo eenvoudig?

Adrien van den Branden, Matthias Dobbelaere-Welvaert, Erik Boerma en Erik De Herdt gaan met elkaar in debat over artificiële intelligentie (AI) in de rechtspraak.

Is de huidige regelgeving voldoende?

Adrien van den Branden vindt het debat rond controle op algoritmes moeilijk. “Je wil aan de ene kant niet dat de groei van AI uit de hand loopt, denk maar aan de algoritmes van Facebook, wat op een gegeven moment een echoput van fake news werd. Anderzijds wil je innovatie evenmin onnodig beperken. Europa loopt al achter op de VS en China wat de ontwikkeling van AI betreft. Idealiter moet je tussen de twee polen een evenwicht zoeken, maar misschien zijn de bestaande regels, zoals GDPR, inderdaad al voldoende en is het risico op ex ante-controle groter dan wat het opbrengt. Het blijft een lastige kwestie.”

Erik De Herdt volgt Adrien. “Het lijkt me zeer belangrijk en logisch dat er transparantie komt, zodat mensen weten waarom een bepaalde beslissing werd genomen. Daarbij moeten we wel vermijden dat we de kar voor het paard spannen. Het is nog heel vroeg dag wat AI betreft. Laten we misschien eerst even afwachten wat de problemen zouden kunnen zijn en die dan vervolgens aanpakken met regels.”

Erik Boerma vertelt dat een collega een paar maanden geleden op werkbezoek was in China. “Baidu, de Chinese Amazon, schijnt er volop bezig te zijn met digitalisering van de rechtspraak. Als ik zoiets hoor, dan merk ik bij mezelf dat ik het toch liever niet zie gebeuren dat rechtspraak binnenkort onder Amazon ressorteert, hoe goed het dat ook zou doen. De overheid moet zeker innovatie stimuleren zonder meteen de deuren dicht te slaan, maar we mogen de rechtspraak volgens mij ook niet zomaar te grabbel gooien aan commerciële partijen.”

“Kijk”, gaat Eric Boerma verder, “misschien blijkt over enkele jaren dat de grote meerwaarde van al dit soort systemen én die van mezelf is dat ik, als rechter, nog “neen” kan zeggen. Misschien is dat over vijftig of honderd jaar wel mijn grootste verkoopwaarde, die autonomie om te zeggen: ‘AI of niet, dit is desondanks mijn uitspraak.” Want zodra ik ben verworden tot een stempelmachine van de AI, dan ben je die zo belangrijke “neen” kwijt. En dan ga je het pad op richting China. De prijs die je betaalt voor onafhankelijkheid is misschien luiere rechters of rechters die niet transparant werken, maar je hebt altijd ook de veiligheid dat er rechters zijn die het wél goed doen.”

Samenwerken met filosofen, sociologen en ethici

Matthias Dobbelaere-Welvaert voegt eraan toe dat als je het AI-vraagstuk op wetgevend vlak wil oplossen, je niet alleen juristen moet inschakelen, maar ook filosofen, sociologen en ethici. “Die moeten dan veel meer samenwerken dan nu het geval is. Ik ben blij dat China als voorbeeld werd aangehaald. In China bestaat Facebook noch Twitter, maar wel WeChat. De overheid subsidieert WeChat, elke ambtenaar kan je privéberichten lezen en toch gebruikt elke Chinees het: er is geen alternatief. Ik heb dus veel liever een gereglementeerde AI, waarmee we iets trager, maar veel verstandiger groeien dan wel de ongebreidelde revolutie zoals je die in de VS en China zal zien. Als je de datahonger en -controle vaststelt die de overheid nu al heeft en dit hele debat niet ethisch, filosofisch en juridisch reglementeert, dan krijg je over enkele jaren een heel gevaarlijke cocktail. Hier in Europa hebben we met de GDPR gelukkig een goede start genomen. Ook al ben je een Amerikaans of Chinees bedrijf, wie hier zaken wil doen, moet zich aan de GDPR houden. Overigens, wat mij betreft mag de reglementering gerust nog verder gaan dan de GDPR.”

Erik De Herdt vindt het toch een typisch conservatieve, Europese reflex om weer eerst te reguleren. “Waarom niet eerst de innovatie een kans geven en optreden als er uitwassen zijn?”

“Ik hoor soms dat het met de Ubers, Apples en Amazons van deze wereld, dezelfde kant zal opgaan als met Rockefeller en Standard Oil”, zegt Eric Boerma. “Met andere woorden: dat de overheid hen zal verplichten om zichzelf op te delen in verschillende bedrijven. Misschien komt er wel een maatschappelijke en zelfs politieke beweging op gang die niet wil dat die bedrijven te groot, te machtig en te monopolistisch worden. En dus een paar kopjes afhakt.”

“Technologiebedrijven willen gewoonweg groeien”, zegt Matthias Dobbelaere-Welvaert. “In Silicon Valley, noch in Europa liggen zij wakker van ethiek. Ze bedoelen het misschien goed, maar ze willen vooral winst maken. Je kunt dit niet aan zelfregulering overlaten. Als je zegt: “Laten we innovatie een kans geven”, dan krijgen we voor hetzelfde geld misschien een AI die ongelooflijk biased is. Het gevaarlijke is dat de ontwikkelingen onwaarschijnlijk snel gaan. Het is nu nog prematuur, maar over vijf jaar spreken we misschien over iets heel anders. En van softwarebouwers mag je niet verwachten dat zij de ethische keuzes gaan maken.”

Conclusie

De vraag hoever en of ethische regulering van AI-systemen en software nodig is, laat zich niet eenduidig beantwoorden. Sommige partijen aan tafel zien liever geen te vroege tussenkomsten van de overheid en willen het aan de markt over laten om zichzelf te reguleren. Erik De Herdt pleit voor tests om na te gaan of AI-algoritmes de juiste output genereren, zonder echter bedrijven te verplichten om er inzage in te geven. “Ik denk evenwel niet dat Google of Microsoft daarvoor staan te springen”, nuanceert hij.

In de politieke wereld is het AI-debat alleszins geen echt hot topic. Laat staan de vraag of algoritmes die over enkele jaren misschien ons hele leven beïnvloeden, accountable zijn. Onder meer het Nederlandse Europees parlementslid Marietje Schaake (D66) roept daarom op tot wetgeving die verplicht dat algoritmes openbaar worden. Matthias Dobbelaere-Welvaert sluit zich daarbij aan: “Waarom zouden we als maatschappij het algoritme niet mogen zien? Meer nog: waarom zou dat geen open source-algoritme mogen zijn?” Erik Boerma zorgt voor een sense of urgency wanneer hij een veelzeggende vergelijking met zelfrijdende auto’s maakt. “Als een bepaald model te veel doden veroorzaakt, prijzen ze zichzelf toch onmiddellijk uit de markt en verdwijnen ze toch vanzelf?”

Frederic Petitjean

Orde van Vlaamse Balies