In het op 24 januari 2024 gepubliceerde Sectorbeeld Onderwijs, heeft de Autoriteit Persoonsgegevens (AP) de trends en ontwikkelingen in kaart gebracht die in het onderwijs spelen op privacygebied. De AP ziet onder meer grote uitdagingen voor het onderwijs door algoritmes en artificiële intelligentie (AI).
Door de opkomst van adaptieve leermiddelen en learning analytics hebben onderwijsinstellingen steeds meer gegevens tot hun beschikking over het gedrag en de ontwikkeling van leerlingen en studenten. Deze gegevens kunnen waardevolle inzichten en mogelijkheden bieden om meer gedifferentieerd onderwijs aan te bieden dat rekening houdt met de behoeften van individuele leerlingen en studenten. Daarnaast komt er steeds meer aanbod op de markt om geautomatiseerd toetsen te ontwikkelen en om leerlingen en studenten te beoordelen op basis van algoritmes en kunstmatige intelligentie (AI). Ook kunnen onderwijsinstellingen algoritmes inzetten voor het selecteren van studenten voor opleidingen of worden er algoritmes ontwikkeld en ingezet voor onderzoeksdoeleinden. Bovendien heeft ook het gebruik van generatieve AI door zowel leerlingen/studenten als onderwijspersoneel een grote impact op het onderwijs. Er zijn risico’s bij het gebruik van dit soort gegevens en diensten die de ontwikkeling van leerlingen en studenten kunnen schaden. Denk aan verkeerde interpretatie van data, vooringenomenheid (bias) of het verlies van controle over persoonsgegevens. Soms is de werking van deze systemen niet transparant, mede door de complexiteit van nieuwe vormen van AI. Ook ethische vraagstukken, zoals de autonomie van docenten, leraren, leerlingen en studenten, diversiteit en kansengelijkheid vragen hierbij de aandacht. Het is van belang om deze risico’s waar geschikt ook te bespreken met leerlingen en studenten.
Niet wachten op AI-verordening
Vanwege de belangrijke maatschappelijk taak, doet de onderwijssector er goed aan om niet te wachten op de AI-verordening maar zich nu al voor te bereiden op aankomende normen bij het onderzoeken, ontwikkelen, implementeren of updaten van systemen of toepassingen. Hierbij hoort ook nadrukkelijk het gesprek over de wenselijkheid van de inzet van algoritmes in het onderwijs. De AP adviseert daarom om beleidsstrategieën en beheersingsprocessen voor algoritmes en AI in te richten binnen onderwijsinstellingen. Ook is het vergroten van AI-kennis onder leerkrachten en docenten een aandachtspunt om te zorgen voor een zorgvuldige inbedding en beheersing van algoritmes in het onderwijs.