De opkomst van kunstmatige intelligentie (AI) in de gezondheidszorg brengt zowel veelbelovende innovaties als complexe juridische en ethische vraagstukken met zich mee.

Dit proefschrift van Hannah van Kolfschooten onderzoekt hoe de rechten van patiënten in de Europese Unie (EU) worden beschermd in het licht van de toenemende algoritmisering van de gezondheidszorg. Centraal staat de vraag of het bestaande EU-recht voldoende waarborgen biedt tegen de risico’s van AI in de gezondheidszorg en welke juridische aanpassingen nodig zijn om patiëntenrechten beter te beschermen. De gezondheidszorg in de EU digitaliseert in hoog tempo. AI wordt ingezet voor diagnostiek, gepersonaliseerde behandelingen en administratieve processen in ziekenhuizen. Deze technologie biedt kansen, maar roept ook juridische en ethische vragen op, met name rondom privacy, autonomie en de transparantie van besluitvorming. Dit proefschrift analyseert hoe de bestaande wet- en regelgeving deze uitdagingen adresseert en waar hiaten zichtbaar worden. Vanuit een mensenrechtenperspectief identificeert het proefschrift vijf kernrechten die relevant zijn voor AI in de gezondheidszorg: toegang tot zorg, autonomie, informatie, privacy en het recht op een doeltreffende voorziening in rechte. Op basis hiervan wordt de impact van AI op patiëntenrechten beoordeeld en wordt het bestaande juridische kader tegen het licht gehouden. Hoewel de EU een reeks instrumenten heeft ontwikkeld, zoals de Algemene Verordening Gegevensbescherming (AVG) en de Verordening Medische Hulpmiddelen (MDR), blijkt dat deze onvoldoende toegespitst zijn op de specifieke risico’s van AI in de gezondheidszorg. Een belangrijke bevinding is dat de AI-Verordening van de EU (AI Act) weliswaar algemene regels stelt voor AI, maar onvoldoende rekening houdt met de unieke kwetsbaarheid van patiënten. Specifieke uitdagingen zijn onder meer de black box-problematiek, waarbij AI-beslissingen niet transparant of uitlegbaar zijn, en de dreiging van algoritmische vooringenomenheid, die bestaande gezondheidsongelijkheden kan versterken.

Daarnaast blijft de rol van patiëntenrechten in de AI-regelgeving onderbelicht, waardoor er risico’s ontstaan op het gebied van geautomatiseerde besluitvorming zonder menselijke tussenkomst. Het proefschrift doet concrete voorstellen om de juridische bescherming van patiënten te versterken. Een belangrijke aanbeveling is een ‘gezondheidsconforme’ interpretatie van Artikel 22 AVG, waarin het recht om niet uitsluitend door AI-gestuurde medische beslissingen te worden onderworpen explicieter wordt gewaarborgd. Daarnaast wordt gepleit voor een EU-Handvest voor Digitale Patiëntenrechten, waarin bestaande en nieuwe rechten worden gebundeld om de bescherming van patiënten in het digitale tijdperk te versterken. De algoritmisering van de gezondheidszorg vraagt om een herijking van het juridische kader om patiëntenrechten effectief te beschermen. De huidige EU-regelgeving schiet tekort in het adresseren van de specifieke uitdagingen van AI in de gezondheidszorg, vooral voor kwetsbare groepen.

Dit proefschrift pleit voor een meer geïntegreerde benadering, waarin juridische waarborgen voor transparantie, non-discriminatie en menselijke controle centraal staan. Alleen zo kan AI worden ingezet als een middel om de gezondheidszorg te verbeteren, zonder de rechten en belangen van patiënten in gevaar te brengen.

Van Kolfschooten promoveerde op 6 maart 2025 aan de Universiteit van Amsterdam. Promotores: prof. mr. dr. Johan Legemaate. Co-promotores: prof. mr. dr. Anniek de Ruijter en mr. dr. Kristina Irion.

Hannah van Kolfschooten
Patients’ rights protection and Artificial Intelligence in the European Union

Het proefschrift is beschikbaar in de repository van de Universiteit van Amsterdam.