De nieuwe AI-verordening moet Europeanen vertrouwen geven in de mogelijkheden van AI. Evenredige en flexibele regels gaan een antwoord bieden op de specifieke risico's van AI-systemen. Europa opteert voor de strengste regels ter wereld. Het gecoördineerde plan schetst de noodzakelijke beleidswijzigingen en investeringen die in de lidstaten moeten gebeuren om de leidende positie van Europa in de ontwikkeling van mensgerichte, duurzame, veilige, inclusieve en betrouwbare AI te versterken.

De Europese benadering van betrouwbare AI

De nieuwe regels zullen in alle lidstaten rechtstreeks op dezelfde wijze worden toegepast op basis van een toekomstbestendige definitie van AI. Daarbij wordt een risicogebaseerde aanpak gevolgd:

Onaanvaardbaar:

AI-systemen die een duidelijke bedreiging vormen voor de veiligheid, bestaansmiddelen en rechten van mensen, worden verboden. Het gaat om AI-systemen of -toepassingen die menselijk gedrag manipuleren om de vrije wil van gebruikers te omzeilen (bv. speelgoed met spraakondersteuning dat minderjarigen aanspoort tot gevaarlijk gedrag) en systemen die ‘sociale scoring’ door overheden mogelijk maken.

Hoog risico

AI-systemen die als risicovol worden aangemerkt en die worden gebruikt in:

- kritieke infrastructuurnetwerken (bv. vervoer), die het leven en de gezondheid van burgers in gevaar kunnen brengen;

- onderwijs of beroepsopleiding, die bepalend kunnen zijn voor de toegang tot onderwijs en professionele carrière;

- veiligheidscomponenten van producten (bv. AI-toepassing in door robots ondersteunde chirurgie);

- werkgelegenheid, personeelsbeheer en toegang tot zelfstandige arbeid (bv. software voor de screening van cv's bij selectieprocedures);

- essentiële particuliere en openbare diensten (bv. kredietwaardigheidsbeoordeling op basis waarvan men burgers geen lening wil toekennen);

- wetshandhaving, die gevolgen kan hebben voor onze grondrechten (bv. beoordeling van de betrouwbaarheid van bewijsstukken);

- beheer van migratie, asiel en grenscontrole (bv. verificatie van de echtheid van reisdocumenten);

rechtsbedeling en democratische processen (bv. toepassing van de wet op concrete feiten).

AI-systemen met een hoog risico zullen aan strenge verplichtingen worden onderworpen voordat zij in de handel mogen worden gebracht:

- adequate systemen voor risicobeoordeling en -beperking;

- hoge kwaliteit van de datasets die het systeem voeden om risico's en discriminerende resultaten zoveel mogelijk uit te sluiten;

- registratie van activiteiten om de traceerbaarheid van de resultaten te waarborgen;

- gedetailleerde documentatie met alle nodige informatie om de autoriteiten in staat te stellen het doel en de conformiteit van het systeem te beoordelen;

- duidelijke en adequate informatie voor gebruikers;

- passend menselijk toezicht om de risico's tot een minimum te beperken;

- sterke robuustheid, beveiliging en nauwkeurigheid.

Met name alle systemen voor biometrische identificatie op afstand worden als risicovol beschouwd en moeten aan strikte eisen voldoen. Op openbare plaatsen is het rechtstreekse gebruik van die systemen voor rechtshandhavingsdoeleinden in beginsel verboden. Beperkte uitzonderingen zijn strikt gedefinieerd en geregeld (bv. om een vermist kind te zoeken, een specifieke en nakende terroristische dreiging af te wenden of een dader of verdachte van een ernstig strafbaar feit op te sporen, te identificeren of te vervolgen). Er moet vooraf toestemming worden gegeven door een rechterlijke of andere onafhankelijke instantie, die slechts geldt voor een beperkte termijn en omgeving en voor specifieke databanken.

Beperkt risico

AI-systemen waarvoor specifieke transparantieverplichtingen gelden: Bij het gebruik van AI-systemen zoals chatbots moeten gebruikers zich ervan bewust zijn dat zij met een machine van doen hebben, zodat zij met kennis van zaken kunnen besluiten of ze die interactie al dan niet wensen voort te zetten.

Minimaal risico

Het wetgevingsvoorstel staat het vrije gebruik toe van op AI gebaseerde videospellen of spamfilters. De overgrote meerderheid van AI-systemen valt in deze categorie. De ontwerpverordening laat die systemen ongemoeid aangezien het risico voor de rechten of de veiligheid van burgers minimaal of niet aanwezig is.

Wat governance betreft, stelt de Commissie voor dat de bevoegde nationale markttoezichtautoriteiten toezien op de nieuwe regels. De oprichting van een Europees comité voor kunstmatige intelligentie zal de uitvoering van die regels faciliteren en de ontwikkeling van normen voor AI stimuleren. Daarnaast pleit de Commissie voor vrijwillige gedragscodes voor AI zonder grote risico's en voor testomgevingen voor regelgeving om verantwoorde innovatie te bevorderen.

Excellentie in AI

Om wereldwijd concurrerend te blijven, verbindt de Commissie zich ertoe innovatie in de ontwikkeling en het gebruik van AI-technologie in alle bedrijfstakken en in alle lidstaten te bevorderen.

Het gecoördineerd plan inzake AI, dat voor het eerst in 2018 werd gepubliceerd om acties en financieringsinstrumenten voor de ontwikkeling en invoering van AI te definiëren, heeft de weg vrijgemaakt voor een dynamisch landschap van nationale strategieën en EU-financiering voor publiek-private partnerschappen en onderzoeks- en innovatienetwerken. In het kader van de omvattende actualisering van het gecoördineerde plan worden concrete gezamenlijke acties voor samenwerking voorgesteld om alle inspanningen af te stemmen op de Europese strategie inzake AI en de Europese Green Deal, rekening houdend met de nieuwe uitdagingen die de coronapandemie met zich meebrengt. In dat plan wordt een visie voorgesteld om investeringen in AI te versnellen, wat het herstel ten goede kan komen. Het heeft ook tot doel de uitvoering van nationale AI-strategieën aan te moedigen, versnippering tegen te gaan en mondiale uitdagingen aan te pakken.

Nieuwe machineproducten

Machineproducten omvatten een breed scala aan producten voor consumenten en professionals, van robots tot grasmaaiers, 3D-printers, bouwmachines en industriële productielijnen. In de machinerichtlijn, die wordt vervangen door de nieuwe machineverordening, zijn gezondheids- en veiligheidseisen voor machines vastgesteld. De nieuwe machineverordening zal er enerzijds voor zorgen dat de nieuwe generatie machines de veiligheid van gebruikers en consumenten waarborgt en anderzijds innovatie stimuleren. Terwijl de nieuwe AI-verordening de veiligheidsrisico's van AI-systemen zal aanpakken, zal de machineverordening de veilige integratie van het AI-systeem in de machine als geheel waarborgen. Bedrijven hoeven slechts één conformiteitsbeoordeling te verrichten.

https://ec.europa.eu/commission/presscorner/detail/nl/IP_21_1682