Een verantwoorde inzet van algoritmes door uitvoeringsorganisaties van de rijksoverheid is mogelijk, maar in de praktijk niet altijd het geval. De Algemene Rekenkamer 9 algoritmes die door overheidsinstanties worden gebruikt getoetst. Bij 3 algoritmes stelt de Algemene Rekenkamer vast dat deze voldoen aan alle basisvereisten. Bij 6 andere bestaan uiteenlopende risico’s: gebrekkige controle op prestaties of effecten, vooringenomenheid, datalek of ongeautoriseerde toegang.
Voor dit onderzoek heeft de Algemene Rekenkamer vorig jaar al in samenspraak met tal van (overheids)organisaties een toetsingskader ontwikkeld. De 9 algoritmes zijn nu aan dat kader getoetst.
Gevonden risico’s
Bij het directoraat-generaal Migratie van het Ministerie van Justitie en Veiligheid en de Rijksdienst voor Identiteitsgegevens is de ontwikkeling en het beheer van het algoritme uitbesteed, maar ontbreekt het aan afspraken wie voor wat aanspreekbaar is. De Rijksdienst voor Identiteitsgegevens kan daardoor niet zelf nagaan of het algoritme de kwaliteit van pasfoto’s correct vaststelt. Dit kan discriminatie in de hand werken. Deze rijksdienst voert ook geen effectbeoordeling uit op gegevensbescherming. Bij het criminaliteitsanticipatiesysteem van de politie ontbreekt onder meer controle op mogelijke vooringenomenheid. Dit algoritme voorspelt waar het risico op incidenten hoog is.
Verder ontbreekt volgens de Rekenkamer bij 6 van 9 onderzochte organisaties inzicht welke medewerkers toegang hebben tot data en het algoritme. Met als risico’s beschadiging of verlies van data en alle gevolgen van dien door ongeautoriseerde toegang. Het RVO (de coronacrisismaatregel Tegemoetkoming vaste lasten), het verzelfstandigde onderdeel Toeslagen van de Belastingdienst die de huurtoeslag toekent en de Sociale Verzekeringsbank die AOW-aanvragen beoordeelt, lopen op deze wijze risico’s, omdat het IT-beheer niet voldoende op orde is.
Algoritmes die wel voldoen aan de basisvereisten
De geautomatiseerde aanpak voor het vaststellen van medische rijgeschiktheid door het Centraal Bureau Rijvaardigheid voldoet aan alle basisvereisten. Dat geldt ook voor het koppelen van verkeersboetes aan kentekengegevens door het Centraal Justitieel Incassobureau en de controle via een algoritme op rechtmatigheid van bijstandsuitkeringen door het Inlichtingenbureau.
Vervolg
De staatssecretaris voor Digitalisering heeft aangegeven de tekortkomingen direct aan te willen gaan pakken met de uitvoeringsorganisaties. Voor het zomerreces wil zij de Tweede Kamer informeren over eventuele vervolgstappen. De Algemene Rekenkamer noemt de reacties van specifiek de politie en dienst Migratie op de uitkomst van het Rekenkameronderzoek zorgelijk, omdat zij lijken af te wijken van de inzet van de staatssecretaris voor Digitalisering.
Bron: rekenkamer.nl