Plenair Prins bij debat over algoritmische besluitvorming bij de overheid



Verslag van de vergadering van 21 maart 2023 (2022/2023 nr. 23)

Status: gecorrigeerd

Aanvang: 14.38 uur


Bekijk de video van deze spreekbeurt

Mevrouw Prins i (CDA):

Meneer de voorzitter. Ik vermoed dat velen van ons die met de auto naar de Eerste Kamer zijn gekomen, vanmorgen vrijwel automatisch hun routeplanner hebben aangezet en dat de parkeerhandhavers in de stad Rotterdam eerst even hun computers hebben gecheckt, alvorens ze een boete uitschrijven. En zo kan ik vele voorbeelden noemen waarin artificiële intelligentie een onderdeel van ons leven is geworden. Zo las ik het afgelopen weekend in het AD niet alleen dat Ajax algoritmen inzet om te bezien hoe je het beste elke voetballer kunt inzetten — dat is ze niet helemaal gelukt, maar dat terzijde — maar ook dat een Indiase ondernemer in Amstelveen een AI-technologie heeft ontwikkeld waarmee men jonge spelers op talent op het gebied van cricket kan selecteren. Men filmde 9.000 jongens in India. Elke deelnemer moest zes keer een bal gooien. Dat werd gefilmd en vervolgens geanalyseerd met AI. Zo kon precies de jongen met het grootste talent, het echte talent, gespot worden.

AI biedt ruimte om onder andere ons leven makkelijker, meer voorspelbaar en efficiënter te maken, dankzij het gebruik van ongelofelijk veel meer kennis, feiten en dwarsverbanden, om deze ingewikkelde technologie maar even simpel neer te zetten.

De heer Recourt i (PvdA):

Ik dank mevrouw Prins, want zij heeft meteen in haar inleiding al iets bij mij getriggerd, namelijk het volgende. Ik ga meestal met de trein, maar als ik met de auto ga, hoef ik mijn telefoon niet eens aan te zetten en zegt ie: het is zoveel minuten rijden naar Den Haag. Dat betekent dat mijn telefoon, de AI in mijn telefoon, weet dat ik op dinsdag naar Den Haag ga en precies waar naartoe ook nog. Dat betekent dat het bedrijf achter die AI die informatie kan verkopen aan derden. In het kader van het debat vandaag is mijn vraag de volgende. Hoever gaan al die voordelen? Die kunnen soms heel makkelijk zijn, want ik heb daar wat aan, maar aan de achterkant zitten allerlei onvermoede gevolgen, die misschien minder prettig zijn.

Mevrouw Prins (CDA):

Ik heb ook niet betoogd dat ik het hier volledig mee eens zou zijn. Ik heb wel aangegeven, en dat is wat ik wilde zeggen, dat we zonder dat we het weten of merken, elke dag en bijna elk moment al gebruikmaken van AI. Ik kom straks ook op de nadelen, maar ik wilde even laten zien dat we eigenlijk, zonder dat je het beseft, al leven in een wereld met AI.

De voorzitter:

Vervolgt u uw betoog.

Mevrouw Prins (CDA):

Ik had gezegd "om het maar even simpel neer te zetten", maar zoals meestal in het leven, kent AI ook nadelen en er kleven vele risico's aan. Denk aan het bijna niet te vinden onderscheid tussen nieuws en nepnieuws, het razendsnel verspreiden van nepnieuws, et cetera. Op basis van je gebruik van sociale media bepalen anderen wat je te zien krijgt en nemen zij dus voor jou beslissingen zonder dat je daar zicht op hebt.

Voorzitter. Dat de wetgever en de diverse overheidsorganisaties ook gebruikmaken van AI bij de voorbereiding, de uitwerking en de uitvoering van wet- en regelgeving, is dan ook in deze tijd niet meer dan logisch. Maar juist als overheid is het van belang alert te zijn op de risico's en deze te signaleren en te ondervangen. Daarom ben ik blij met het initiatief van de collega's Veldhoen en Recourt, die de werkgroep AI in deze Kamer hebben opgestart, en met het werk dat de griffie heeft gedaan, samen met het Rathenau Instituut om zo onze kennis op een hoger niveau te brengen, onder andere via de diverse deskundigenbijeenkomsten. Het heeft mij weer extra en nieuw inzicht gegeven. Dank daarvoor en eveneens dank voor de reactie van de staatssecretaris.

Voorzitter. De CDA-fractie heeft met belangstelling de reactie van het kabinet gelezen. Daarin vielen toch een aantal zaken op. Zo geeft de staatssecretaris aan dat de huidige wetgeving en met name de AVG en de Awb al duidelijke richtlijnen en kaders geven die ook van kracht zijn bij de inzet van AI bij geautomatiseerde besluitvorming. Als je dat zo leest, dan vraag je je wel af hoe ooit de toeslagaffaire heeft kunnen plaatsvinden. Graag een reactie van de staatssecretaris.

Er zijn reeds verschillende instrumenten ontwikkeld, zoals het Impact Assessment voor Mensenrechten bij de inzet van Algoritmes, het zogenaamde IAMA, en een AI-impactassessment dat naast mensenrechten ook de nadruk legt op de technische robuustheid. De EU werkt op dit moment aan een Europese AI-verordening die onder andere een risicoanalyse verplicht bij hoogrisico-AI-systemen. In de tussentijd werkt het kabinet aan mogelijke inbedding van mensenrechtentoetsen in werkprocessen en -cultuur en komt er een implementatiekader algoritmen, dat dus ook een mensenrechtentoets bevat. Onze vraag is: geldt dit implementatiekader ook voor de diverse uitvoeringsorganisaties?

Het Rathenau Instituut heeft een praktisch overzicht gemaakt van de inzet van algoritmen, met zeven vragen met toelichting; zie hun rapport Algoritmes afwegen van 17 mei van het afgelopen jaar. Worden deze vragen meegenomen in het implementatiekader? Hoe zorgt het kabinet ervoor dat het implementatiekader verplicht wordt? En welke bezwaren zouden er zijn om in de basis deze gegevens openbaar te maken, tenzij bijvoorbeeld de veiligheid en privacy van personen in het geding zijn? Graag een reactie.

Voorzitter. Er wordt dus gewerkt aan het beter beheersen van de inzet van algoritmen bij de ontwikkeling en uitvoering van wet- en regelgeving. Het kabinet geeft daarbij aan dat daartoe ook de werkmethodes wetsanalyse en de Calculemus-FLINT-initiatieven worden ingezet. Zo komt er een handzaam instrument voor het zogenaamde uitvoeringsgericht wetgeven, dit ter ondersteuning van beleidsmakers, wetgevingsjuristen en uitvoerders. Onze fractie ondersteunt deze aanpak en heeft nog wel een paar vragen en opmerkingen.

Bij het genoemde team dienen uitdrukkelijk ICT'ers betrokken te zijn, maar dan wel mensen die de technologie en de consequenties van de inzet ervan kunnen overzien, die dus kunnen schakelen tussen inhoud en techniek en die beseffen dat techniek toepassen betekent dat je ook ethiek toepast. Graag een toezegging in dezen.

Tijdens de behandeling van wet- en regelgeving in het parlement worden er vaak nog wijzigingen aangebracht. Hoe zorgt het kabinet ervoor dat ook bij het verwerken van deze wijzigingen opnieuw de opbouw en de ingebrachte gegevens worden onderworpen aan het implementatiekader en zo nodig opnieuw de mogelijke risico's onder de aandacht worden gebracht van het parlement? Graag een toezegging.

Eenduidigheid en helderheid van de data, dus van de begrippen en de definities bij het opbouwen van geautomatiseerde besluitvorming, is van essentieel belang. De staatssecretaris geeft aan dat per ministerie een chief data officer is benoemd, een terechte stap. Echter, hoe gaat de staatssecretaris in haar verantwoordelijkheid voor digitale zaken ervoor zorgen dat de overheid, zowel de ministeries als de uitvoeringsorganisaties, dezelfde vertaling van een begrip hanteert? Graag een toezegging.

Voorzitter. De staatssecretaris geeft aan welke stappen er worden genomen om de fundamentele rechten bij algoritmische besluitvorming te borgen bij de ontwikkeling van nieuwe wet- en regelgeving. Echter, de ervaring leert dat juist onder reeds bestaande wetgeving algoritmische systemen zijn ingezet, zoals het CAS, het Criminaliteits Anticipatie Systeem, en de SyRI, de Systeem Risico Indicatie. De vraag van onze fractie is: hoe houdt het kabinet er zicht op dat onder bestaande wetgeving dergelijke verstrekkende systemen worden ingezet zonder enige democratische legitimatie en zonder enige toetsing van proportionaliteit? Wat gaat het kabinet doen om dit in de toekomst te voorkomen? De CDA-fractie overweegt een motie hiertoe.

Voorzitter. Een van de kenmerken van algoritmische systemen is dat zij zich voortdurend doorontwikkelen. Zo kan een systeem zorgvuldig zijn gebouwd, met respect voor de fundamentele rechten van mensen. Echter, in de loop van de tijd kan het systeem door zogenaamde proxywerking toch discriminerend uitwerken. Mijn fractie verzoekt de staatssecretaris de toezegging te doen dat bestaande algoritmische besluitvorming met hoog risico voor de burger regelmatig wordt getoetst op deze ongewenste effecten.

Voorzitter. Een ander belangrijk aandachtspunt is dat besluitvorming voor de burger uitlegbaar is. Een besluitvorming in de vorm van "computer says no" is onacceptabel. Menselijke betrokkenheid is en blijft een voorwaarde. Dit geeft de staatssecretaris ook duidelijk aan. Daarbij wordt er, tot waardering van de CDA-fractie, ook gewerkt aan de versterking van het waarborgkarakter van de Awb, waarbij onder andere persoonlijk contact met de overheid wordt versterkt en de motiveringsplicht wordt aangepast.

De heer Otten i (Fractie-Otten):

Dank voor dit interessante betoog. Ik hoor mevrouw Prins van het CDA zeggen dat er goede ICT'ers moeten worden gerekruteerd. Dat vind ik een goed punt. We waren gisteren met de commissie voor Financiën op werkbezoek bij de Belastingdienst. Het was een heel interessant bezoek. Daarbij werd er heel veel over de ICT-problemen gepraat. De conclusie is dat alle redelijk opgeleide ICT'ers na een paar jaar vertrekken, omdat ze de overheid dan niet meer als aantrekkelijke werkgever zien. Bij de Belastingdienst is dit dus al een megagroot probleem. Waar denkt mevrouw Prins die ICT'ers dan vandaan te kunnen halen? Moeten die dan veel meer betaald krijgen? Hoe wilt u dat doen? In de praktijk zien we namelijk dat dit bij de Belastingdienst al een heel lastig probleem is.

Mevrouw Prins (CDA):

Laat het helder zijn: sowieso is de arbeidsmarkt voor ICT'ers een ingewikkelde markt. Ik moet daarbij zeggen dat er niet overal tekorten zijn. Ik ben voorzitter van de KVK. Wij hebben nog steeds behoorlijk wat ICT'ers. Het heeft er dus ook mee te maken wat het imago van de werkgever is en welke ruimte ICT'ers krijgen. Ik pleit er hier met name voor dat we ICT'ers inzetten die beseffen dat ze niet alleen met ICT werken, maar ook met ethiek. Werkgevers moeten dat beseffen, of het nou de Belastingdienst, een ministerie of iemand anders is. We moeten dat toetsen. We moeten daar ook opleidingen voor geven. Men moet beseffen dat elk stapje dat gezet wordt, impact kan hebben op de ethische besluitvorming.

De voorzitter:

Vervolgt u uw betoog.

Mevrouw Prins (CDA):

Ik had het zonet over de motiveringsplicht.

Graag vraag ik aandacht voor de praktijk van alledag. Net zoals algoritmische systemen niet altijd objectief zijn, geldt dit ook voor de menselijke betrokkenheid. Door strakke sturing en de zware inzet op rechtmatigheid, die ook ten koste kan gaan van rechtvaardigheid, vindt ook nu discriminatie plaats: het gevoel niet gehoord te worden. De CDA-fractie vraagt hier uitdrukkelijk aandacht voor. Hoe stuurt het kabinet de uitvoeringsorganisaties aan? Welke eisen stelt zij aan de uitvoering? Welke eisen stelt zij aan de bejegening van burgers? Welke eisen stelt zij aan ondersteuning en duidelijk toegankelijke taal? Ook die vorm van uitlegbaarheid achten wij van grote waarde. Graag een reflectie hierop van de staatssecretaris.

Voorzitter, tot slot. Ik kan u verzekeren dat deze tekst door mijzelf is gemaakt, en niet door ChatGPT-4. Zoals de Amerikaanse Googleconsultant Bruce Sterling zegt: een computer kan niet denken, mensen wel. Echter, we worden geconfronteerd met een steeds verdere en razendsnelle ontwikkeling van AI. De output van ChatGPT-4, die besluiten en teksten baseert op extreem veel informatie en onderlinge dwarsverbanden, lijkt verraderlijk authentiek en gewoon door mensen gemaakt. De CDA-fractie vraagt het kabinet hoe het hiermee wenst om te gaan. Mag een rechtbank, een student of een journalist hier gebruik van maken? Hoe weet een burger straks nog het onderscheid? De technologie-ethicus Olya Kudina zei in dezen: "Het is alsof OpenAI de maatschappij gebruikt als een groot laboratorium." Welke stappen neemt de staatssecretaris van Digitale Zaken om ook hier kaders te stellen?

Voorzitter, wij zijn benieuwd naar de antwoorden.

De voorzitter:

Dank u wel, mevrouw Prins. Dan is het woord aan mevrouw De Blécourt-Wouterse namens de VVD.