T03668

Toezegging Regelmatig evalueren ongewenste effecten algoritmische besluitvorming wordt onderdeel van implementatiekader (CXLVII)

De staatssecretaris Koninkrijksrelaties en Digitalisering zegt de Kamer, naar aanleiding van een vraag van het lid Prins (CDA), toe dat algoritmische besluitvorming regelmatig zal worden geëvalueerd en dat dit wordt opgenomen in het implementatiekader.

Kerngegevens

Nummer T03668
Status deels voldaan
Datum toezegging 21 maart 2023
Deadline 1 juli 2024
Verantwoordelijke(n) Staatssecretaris Koninkrijksrelaties en Digitalisering
Kamerleden G. Prins (CDA)
Commissie commissie voor Digitalisering (DIGI)
Soort activiteit Plenaire vergadering
Categorie evaluatie
Onderwerpen discriminatie
evaluaties
AI-gebruik
Kamerstukken Grip op algoritmische besluitvorming bij de overheid (CXLVII)

Uit de stukken

Handelingen I 2022-2023, nr. 23, item 9 - blz. 10-11

Mevrouw Prins (CDA):

(…)

“Voorzitter. Een van de kenmerken van algoritmische systemen is dat zij zich voortdurend doorontwikkelen. Zo kan een systeem zorgvuldig zijn gebouwd, met respect voor de fundamentele rechten van mensen. Echter, in de loop van de tijd kan het systeem door zogenaamde proxywerking toch discriminerend uitwerken. Mijn fractie verzoekt de staatssecretaris de toezegging te doen dat bestaande algoritmische besluitvorming met hoog risico voor de burger regelmatig wordt getoetst op deze ongewenste effecten.”

Handelingen I 2022-2023, nr. 23, item 9 - blz. 33

Staatssecretaris Van Huffelen:

(…)

“U vroeg of we ervoor kunnen zorgen dat als we algoritmes gebruiken, die regelmatig worden getoetst. Dat is precies wat ik ook wil. Ik weet hoe belangrijk het is dat je niet maar een keertje vooraf kijkt of een algoritme goed werkt, maar dat je ook tijdens het gebruik ervan blijft kijken of het dat doet, omdat een algoritme soms ongewenst, bijvoorbeeld door de trainingsdata die soms aan een algoritme worden gegeven, toch een bepaalde bias kan krijgen of discriminerend kan worden. Dat is iets wat je wilt voorkomen. Ik zeg u graag toe dat we daar met regelmaat een evaluatie op toepassen en dat we die onderdeel maken van het implementatiekader.”

Handelingen I 2022-2023, nr. 23, item 9 - blz. 44

Mevrouw Prins (CDA):

(…)

“We zijn blij met de toezegging die de staatssecretaris heeft gedaan dat het implementatiekader straks uitdrukkelijk voor de hele overheid en de uitvoeringsinstanties gebruikt moet worden. Ook zijn wij blij met de toezegging dat er regelmatig zal worden geëvalueerd om te kijken of er geen ongewenste effecten kunnen optreden.”


Brondocumenten

Historie