Een deepfake is beeld, geluid of ander digitaal materiaal dat nep is, maar zeer realistisch lijkt. Met machine learning en artificial intelligence wordt nieuwe digitale content gemaakt uit bestaande video’s, stemmen en afbeeldingen. Ook kunnen geheel nieuwe (virtuele) personen of beelden worden gefabriceerd. Kwalitatief goede deepfakes zijn niet of nauwelijks van echt te onderscheiden. Bovendien kan iedereen gratis en gemakkelijk toegang krijgen tot deze technologie. De verwachting van experts is dan ook dat over 5 jaar meer dan 90% van alle online content geheel of gedeeltelijk gemanipuleerd zal zijn. Deepfake-detectietechnologieën zijn beperkt in capaciteit en kunnen slechts een deel van het fakemateriaal automatisch wegfilteren.

In het onderzoek is gekeken naar de negatieve toepassingen en gevolgen van deepfakes zoals pornografie, fraude en misleiding, haat zaaien, het verspreiden van misinformatie en het beïnvloeden van democratische verkiezingen. Naast kwalijke gevolgen voor direct betrokkenen kunnen deepfakes ook maatschappelijke gevolgen hebben. Daarbij valt te denken aan een afnemend vertrouwen in de media, de democratie en de rechtspraak als van veel digitale content niet meer duidelijk is of het authentiek is.

(Nederlands) Recht goed toegerust

De onderzoekers stellen vast dat het strafrecht over het algemeen goed is toegerust om strafwaardige deepfakes aan te pakken. Zo is fraude plegen via een deepfake-stem van een familielid strafbaar. Ook de Algemene Verordening Gegevensbescherming (AVG) kent verschillende obstakels voor het maken en verspreiden van deepfakes. Denk aan de plicht om geportretteerden ervan op de hoogte te stellen dat zij in een deepfake figureren. De vraag is zelfs of de AVG niet zo moet worden gelezen dat deepfakes per definitie verboden zijn. Bij deepfakes met een onrechtmatig karakter kunnen partijen volgens het Europees Verdrag voor de Rechten van de Mens (EVRM) een beroep doen op twee mensenrechten: artikel 8 EVRM (recht op privacy) en artikel 10 EVRM (recht op vrijheid van meningsuiting).

Handhaving is problematisch

Het kernprobleem van deepfakes is niet de wetgeving zelf, maar de handhaving daarvan. Dat kwam ook in andere WODC-onderzoeken naar voren, zoals over de gevolgen van augmented en virtual reality  en spionageproducten. Handhaving wordt vooral bemoeilijkt doordat nu al een enorme hoeveelheid gemanipuleerd materiaal verschijnt. Experts verwachten dat dat alleen maar toeneemt en steeds moeilijker te detecteren is.

Reguleringsopties

Om onder andere de handhavingsdruk te verlichten, beschrijven de onderzoekers een groot aantal reguleringsopties. Een daarvan is om het produceren, aanbieden, gebruiken en in bezit hebben van deepfake-technologie te verbieden voor de consumentenmarkt. Het huidige recht legt immers niet de ontwikkeling van deepfakes en het aanbieden aan banden, maar het gebruik daarvan voor specifieke doeleinden. Het kwaad is dan al geschied. Daarbij speelt een rol dat meer dan 95% van de momenteel gepubliceerde deepfakes tussen burgers mogelijk strafwaardig is.

Brede discussie nodig

De onderzoekers stellen dat voor allerlei vraagstukken rondom deepfakes juridische en organisatorische oplossingen gevonden kunnen worden. Zij wijzen erop dat elke oplossing nieuwe reguleringsvragen met zich mee kan brengen. Een brede politieke en maatschappelijke discussie is dan ook nodig voordat er nieuwe regels worden geïntroduceerd.