De Autoriteit Persoonsgegevens (AP) waarschuwt in de op 18 december 2023 gepubliceerde Rapportage AI- & algoritmerisico’s Nederland dat er meer en beter zicht en grip moet komen op de risico’s van artificiële intelligentie (AI) en algoritmes. De risico’s nemen verder toe, onder meer door de opkomst van generatieve AI. Zoals het risico op verspreiding van desinformatie, maar ook op privacy-overtredingen en discriminatie.
De AP pleit voor een deltaplan waarin onder meer menselijke regie, veilige applicaties en systemen en eisen aan organisaties samenkomen. Dit deltaplan beheersing algoritmes en AI moet voor 2030 worden opgesteld. Dit zorgt ervoor dat bedrijven, de overheid en burgers samen toewerken naar een samenleving waarin we algoritmes en AI verantwoord gebruiken. Met meetbare doelstellingen en afspraken per jaar. Implementatie van regelgeving, zoals de Europese AI Act (AI-verordening), is daar onderdeel van. De Europese AI-verordening gaat zorgen dat er vanaf 2025 passend en pro-actief toezicht komt op ‘foundation models’ en organisaties die deze modellen ontwikkelen.
Meer begrip en kennis nodig
Vrijwel iedereen komt nu of in de nabije toekomst veelvuldig in aanraking met algoritmes en AI. Dit betekent niet dat iedereen over dezelfde kennis hoeft te beschikken. Docenten of artsen moeten bijvoorbeeld weten hoe zij een algoritme kunnen beoordelen of inzetten. Mensen moeten weten wat de inzet van een algoritme in hun werkomgeving voor hen betekent en hoe ze zich daartegen kunnen verweren. Bestuurders van organisaties moeten adequate kennis bezitten om de risico’s, effecten en mogelijkheden voor beheersing te kunnen overzien en beoordelen voordat zij een besluit over de inzet nemen. Er moet structureel geïnvesteerd worden in begrip en kennis om als samenleving om te kunnen gaan met de inzet van algoritmes en AI.
Rapportage AI- & algoritmerisico's Nederland (RAN) - najaar 2023