De inzet van algoritmen biedt veel kansen. Zo kunnen bedrijven en overheden winnen aan efficiëntie en effectiviteit. Tegelijkertijd kunnen algoritmen discrimineren en een gevaar zijn voor de privacy. Dit vraagt om alert en proactief optreden van toezichthouders. Grote wetswijzigingen zijn voor de korte termijn echter niet nodig. Dat is de conclusie van het onderzoek dat het Montaigne Centrum van de Universiteit Utrecht uitvoerde in opdracht van het WODC.
In het onderzoek van de Universiteit Utrecht zijn de kansen en risico’s van algoritmische besluitvorming op het gebied van de bescherming en realisering van publieke waarden en belangen nader bekeken. Ook is onderzocht of de bestaande juridische kaders voldoende mogelijkheden bieden om kansen te verwezenlijken of risico’s te voorkomen of onwenselijke gevolgen tegen te gaan.
Risico's
Het gebruik van algoritmen kent ook risico’s. Als algoritmen niet goed worden ‘getraind’ dan kan dat bijvoorbeeld leiden tot discriminatie. Algoritmen maken bovendien veel gebruik van persoonlijke data en kunnen gevoelige gegevens ook aan elkaar koppelen. Daardoor kunnen overheden en bedrijven veel te weten komen over mensen en kunnen dus privacyrisico’s ontstaan. Daarnaast is niet altijd duidelijk hoe zelflerende algoritmen tot een uitkomst komen. Dit maakt het moeilijk, en soms onmogelijk, om argumenten aan te voeren tegen een algoritmisch besluit. Daardoor komt de rechtsbescherming in het gedrang. Hoewel sommige van deze risico’s ook bestaan als mensen zelf beslissingen nemen, benadrukken de onderzoekers dat het gebruik van algoritmen grote gevolgen kan hebben, omdat algoritmen het mogelijk maken om snel en op grote schaal te beslissen.
Bescherming door handhaving van bestaande regels
In het onderzoek, dat vandaag door de Minister voor Rechtsbescherming aan de Tweede Kamer is gestuurd, concluderen de onderzoekers dat het wetboek de komende tijd niet drastisch op de schop hoeft. Bestaande wetgeving biedt nu vaak al voldoende bescherming van de publieke waarden van non-discriminatie, privacy en rechtsbescherming. Wel moeten de bestaande regels worden gehandhaafd als algoritmen beslissingen nemen met gevolgen voor mensen. Daar ligt een belangrijke verantwoordelijkheid voor toezichthouders zoals de Autoriteit Persoonsgegevens. Ook rechters zullen bestaande regels moeten toepassen en daarbij de risico’s van algoritmen niet uit het oog verliezen. De uitspraak in de SyRI-zaak, waarin de rechter een streep haalde door het gebruik van algoritmen om fraude te ontdekken, is daarvan een goed voorbeeld.
Lees het volledige rapport: Juridische aspecten van algoritmen die besluiten nemen: Een verkennend onderzoek - Met casestudy’s naar contentmoderatie door online platformen, zelfrijdende auto’s, de rechtspraak en overheidsincasso bij verkeersboetes