Artificiele Intelligentie en voorwaarden voor processtukken

Sinds drie jaar limiteren de landelijke proces­reglementen de omvang van processtukken bij zowel dagvaardingszaken als verzoekschriftprocedures. De maatregel beperkt zich weliswaar tot procedures bij de gerechtshoven maar was voer voor discussie. Overigens niet voor de eerste keer. Tien jaar eerder werd van een met deze maatregel vergelijkbaar experiment van de Rechtbank Arnhem al ‘gehakt gemaakt’.1

Toch is het relevant de kwestie van voorwaarden voor processtukken opnieuw te bezien. Niet om op voorhand te betogen dat de huidige beperkingen uitbreiding behoeven. Wel om onder ogen te zien wat de populariteit van digitale systemen kan doen met zowel omvang als totstandkoming van processtukken. Met als vervolgvragen: vraagt deze populariteit om een verdere bemoeizucht vanuit de rechtspraak wat betreft voorwaarden voor processtukken? Of kent het huidige procesrecht voldoende instrumenten om eventuele risico’s te mitigeren?

Zoals bekend is de rechter in het civiele en bestuursrechtelijk domein – anders dan in het strafrechtelijk domein waar het OM veel meer sturend is – grotendeels lijdelijk. De motivering voor de limieten in aantallen bladzijden lag niet alleen in een beheersbare omvang van procesdossiers. Ook de risico’s van te omvangrijke dossiers voor zorgvuldige en eerlijke rechtspraak werden ingebracht. Te omvangrijke processtukken staan op gespannen voet met het beginsel van hoor en wederhoor wanneer een wederpartij het zich financieel niet kan veroorloven om haar advocaat de noodzakelijke tijd te laten besteden aan een reactie daarop, aldus de rechtspraak.

Verwacht mag worden dat met de opmars van digitale technologie als instrument bij het opstellen van processtukken, de omvang daarvan verder zal toenemen. En deze trend zal zich niet beperken tot procedures bij gerechtshoven. Wat ChatGPT en soortgelijke op artificiële intelligentie (AI) gebaseerde applicaties in dit verband zullen betekenen is vooralsnog niet te zeggen. Maar ik heb zo het vermoeden dat het aantal pagina’s er niet minder op zal worden. Sommigen zullen – al dan niet terecht – inbrengen dat met digitale zoekfuncties de risico’s gemoeid met omvangrijke hoeveelheden tekst juist minder relevant worden. Tegelijkertijd: op dit moment moet de meerderheid van de processtukken nog op papier worden aangeleverd en functioneren zoekfuncties vooralsnog dus ‘op halve kracht’. 

Maar ‘bemoeizucht’ door te limiteren hoeveel bladzijden aangeleverd mogen worden, is nog iets anders dan willen weten hoe de processtukken tot stand zijn gekomen. Stel de rechtspraak komt met een landelijk procesreglement waarin partijen en hun vertegenwoordigers worden verplicht kenbaar te maken wie, d.w.z. welk type medewerkers (functieniveau), aan het opstellen van de processtukken hebben meegewerkt? Het hek zou waarschijnlijk van de dam zijn. Toch is het een stap die enkele district courts in de VS hebben gezet. ‘Wie’ heeft dan betrekking op de vraag: is het procesdocument vervaardigd met behulp van een AI-applicatie? Directe aanleiding waren gevallen waarbij bleek dat een advocaat in tijdnood kwam en met behulp van ChatGPT een processtuk vervaardigde met daarin ‘hallucinerende’ teksten vol verwijzingen naar niet-bestaande rechtspraak.2 Navraag leert dat in de rechtspraak alhier voorvallen zoals in de VS zich kennelijk nog niet hebben voorgedaan. Maar wat niet is, kan nog komen.

Bovendien, het al dan niet kenbaar maken van AI-inzet bij het opstellen van processtukken kan ook worden bediscussieerd in het licht van artikel 6 EVRM. Kapitaalkrachtige partijen zullen zich deze inzet kunnen veroorloven, anderen niet. Hetgeen potentieel kan resulteren in een onbalans wat betreft de ‘gelijkheid der wapenen’. Dient de rechtspraak daarvoor te compenseren door transparantie over de inzet te vereisen? En: moet het wel bij een dergelijke eis blijven, nu een antwoord over de inzet als zodanig niets zegt over de juistheid van de gegenereerde informatie? Weliswaar moeten advocaten en andere rechtshulpverleners instaan voor de correctheid van hun processtukken, maar gegeven de complexiteit van AI valt te betogen dat zij dienen te expliciteren op welke wijze werd gecontroleerd op de correctheid van de daarmee gegenereerde informatie. Werden de resultaten bijvoorbeeld door een mens gecheckt? 

Terug naar de omvang van processtukken. Barkhuysen achtte het opvallend ‘dat aan de invoering van de maximering geen duidelijke oorzakenanalyse ten grondslag ligt terwijl het toch om een ingrijpende maatregel gaat die uitgaat van wantrouwen in de betrokken advocaat in een tijd waarin juist vertrouwen tussen de diverse actoren in de rechtsstaat voorop zou moeten staan.’ De groeiende inzet van digitale applicaties bij het opstellen van processtukken lijkt een goede aanleiding om een dergelijke analyse alsnog ter hand te nemen. Diverse daarin te betrekken vragen komen op. In hoeverre draagt digitalisering daadwerkelijk bij aan een toename in de – nog niet gelimiteerde – omvang van processtukken in eerste aanleg en cassatie? Wat zijn de verwachtingen over de mate waarin slimme zoeksystemen mogelijke risico’s van omvangrijke processtukken voor zorgvuldige en eerlijke rechtspraak kunnen mitigeren? Hoe zijn de ervaringen in de VS met het vereiste om de inzet van AI kenbaar te maken?

En: wat te denken van een pilot met als doel te experimenteren met de verplichting om de eventuele AI-inzet kenbaar te maken? Onder welke condities zouden procespartijen, hun vertegenwoordigers en rechters vertrouwen in een dergelijke pilot kunnen hebben? Op z’n minst kan het een indicatie geven van de mate waarin AI wel of niet wordt benut bij het opstellen van processtukken. En levert het informatie op over vragen zoals: lezen rechters de stukken anders (kritischer) als ze weten dat deze (mede) door AI zijn gegenereerd? Wie weet valt een dergelijke pilot te bespreken zonder er direct gehakt van te maken.

 

Dit Vooraf wordt gepubliceerd in NJB 2024/1048, afl. 17

 

Afbeelding: Pixabay

 

Noten

1 Zie hierover Barkhuysen NJB 2021/1, afl. 1 met verwijzing naar deze eerdere discussies en het experiment.

2 Zie Van Ettekoven & Prins, NJB 2023/2633, afl. 36, p. 3156.

Over de auteur(s)
Author picture
Corien Prins
Hoogleraar Recht en Informatisering