De staatssecretaris Koninkrijksrelaties en Digitalisering zegt de Kamer, naar aanleiding van een vraag van het lid Prins (CDA), toe dat algoritmische besluitvorming regelmatig zal worden geëvalueerd en dat dit wordt opgenomen in het implementatiekader.
Nummer | T03668 |
---|---|
Status | deels voldaan |
Datum toezegging | 21 maart 2023 |
Deadline | 1 juli 2024 |
Verantwoordelijke(n) | Staatssecretaris Koninkrijksrelaties en Digitalisering |
Kamerleden | G. Prins (CDA) |
Commissie | commissie voor Digitalisering (DIGI) |
Soort activiteit | Plenaire vergadering |
Categorie | evaluatie |
Onderwerpen | discriminatie evaluaties AI-gebruik |
Kamerstukken | Grip op algoritmische besluitvorming bij de overheid (CXLVII) |
Handelingen I 2022-2023, nr. 23, item 9 - blz. 10-11
Mevrouw Prins (CDA):
(…)
“Voorzitter. Een van de kenmerken van algoritmische systemen is dat zij zich voortdurend doorontwikkelen. Zo kan een systeem zorgvuldig zijn gebouwd, met respect voor de fundamentele rechten van mensen. Echter, in de loop van de tijd kan het systeem door zogenaamde proxywerking toch discriminerend uitwerken. Mijn fractie verzoekt de staatssecretaris de toezegging te doen dat bestaande algoritmische besluitvorming met hoog risico voor de burger regelmatig wordt getoetst op deze ongewenste effecten.”
Handelingen I 2022-2023, nr. 23, item 9 - blz. 33
Staatssecretaris Van Huffelen:
(…)
“U vroeg of we ervoor kunnen zorgen dat als we algoritmes gebruiken, die regelmatig worden getoetst. Dat is precies wat ik ook wil. Ik weet hoe belangrijk het is dat je niet maar een keertje vooraf kijkt of een algoritme goed werkt, maar dat je ook tijdens het gebruik ervan blijft kijken of het dat doet, omdat een algoritme soms ongewenst, bijvoorbeeld door de trainingsdata die soms aan een algoritme worden gegeven, toch een bepaalde bias kan krijgen of discriminerend kan worden. Dat is iets wat je wilt voorkomen. Ik zeg u graag toe dat we daar met regelmaat een evaluatie op toepassen en dat we die onderdeel maken van het implementatiekader.”
Handelingen I 2022-2023, nr. 23, item 9 - blz. 44
Mevrouw Prins (CDA):
(…)
“We zijn blij met de toezegging die de staatssecretaris heeft gedaan dat het implementatiekader straks uitdrukkelijk voor de hele overheid en de uitvoeringsinstanties gebruikt moet worden. Ook zijn wij blij met de toezegging dat er regelmatig zal worden geëvalueerd om te kijken of er geen ongewenste effecten kunnen optreden.”
Brondocumenten
-
debat over algoritmische besluitvorming bij de overheid Verslag EK 2022/2023, nr. 23, item 9
-
28 mei 2024
nieuwe status: deels voldaan
Voortgang: -
13 mei 2024
nieuwe status: deels voldaan
Voortgang:documenten:-
-verslag van een schriftelijk overleg met de minister van BZK over (deels) openstaande toezeggingen
Op 14 mei 2024 door de commissie voor IWO voor kennisgeving aangenomen.
EK 36.410 VII / 36.410 IV, I
-
-
13 februari 2024
nieuwe status: deels voldaan
Voortgang: -
23 januari 2024
nieuwe commissie: commissie voor Digitalisering (DIGI) -
23 januari 2024
commissie vervallen: commissie voor Binnenlandse Zaken (BIZA) -
22 december 2023
nieuwe status: openstaand
Voortgang: -
5 december 2023
nieuwe commissie: commissie voor Binnenlandse Zaken (BIZA) -
5 december 2023
nieuwe deadline: 1 juli 2024
nieuwe status: openstaand
Voortgang: -
5 december 2023
commissie vervallen: commissie voor Justitie en Veiligheid (J&V) -
24 november 2023
nieuwe status: openstaand
Voortgang:documenten:-
-verslag van een schriftelijk overleg met de minister van BZK over (deels) openstaande toezeggingen
EK 36.410 VII / 36.410 IV, C
-
-
21 maart 2023
toezegging gedaan