Het verminderen van bias in algoritmen

In dit project onderzoeken wij voor de Dienst Toeslagen hoe we bias in algoritmes kunnen verminderen.

• Lectoraat: Digital Business & Society
• Soort onderzoek: praktijkgericht onderzoek 
• Penvoerder: hogeschool Windesheim
• Partners: i-Partnerschap, Dienst Toeslagen, Belastingdienst, DUO
• Mogelijk gemaakt door: Ministerie van Binnenlandse Zaken en Koninkrijksrelaties (BZK)(opent in nieuw tabblad), Ministerie van Financiën(opent in nieuw tabblad)

Aanleiding 

Als onderdeel van de overheidsbrede programma’s Open-op-Orde en Informatiehuishouding werken we samen met een aantal rijksonderdelen aan de rol van data, informatie en algoritmes in hun dagelijkse praktijk. Dienst Toeslagen(opent in nieuw tabblad) doet al veel aan het tegengaan van bias in data en algoritmes. Soms levert dit veel extra werk op voor medewerkers, bijvoorbeeld in de vorm van invullijsten. De vraag is hoe zij op een effectieve manier met bestaande en nieuwe wet- en regelgeving, frameworks, en methoden en technieken, bias in algoritmes te kunnen verminderen.

Doelstelling en uitvoering

(Digitale) techniek is een ontwerp en via dit ontwerp worden moraal, normen en waarden versterkt of verzwakt. Dit gebeurt vaak impliciet. Binnen dit project concentreren we ons daarom op het gebruik van AI / algoritmes binnen de Rijkoverheid (voor nu: Dienst Toeslagen) en beginnen we met de bias of vooringenomenheid die optreedt in veel algoritmes. Een belangrijke doel is om te kunnen achterhalen of er sprake is van bias, en óf en hóe we dit kunnen mitigeren. Het onderzoek wordt uitgevoerd met docent-onderzoekers en studenten vanuit onze opleiding ICT.

Resultaat

Relevante wetgeving (oa AI-act en AVG), en methoden en technieken (IAMA, Ethics by design, Aanpak Begeleidingsethiek) zijn bestudeerd. De resultaten van deze verkenning zijn geplot op het voortbrengings­proces van informatie­producten bij Dienst Toeslagen. Deze analyse heeft geleid tot een goed inzicht in waar de huidige praktijk al dicht bij de gewenste situatie zit en waar nog ruimte voor verbetering is.

Verbeteringen richten zich enerzijds op het stroomlijnen en efficiënter maken van het proces en anderzijds op het verbeteren van de rechtvaardigheid en rechtmatigheid van de informatieproducten.

Publicaties

De volgende publicaties zijn gepubliceerd: 

• Rechtvaardigere algoritmes door het tegengaan van ongewenste bias(opent in nieuw tabblad) - HBO-kennisbank
• Opinie over AI(opent in nieuw tabblad) door Inge Strijker - PD Od 33-2023
• Opinie Inge Strijker(opent in nieuw tabblad) - PD OD 34-2024
• Studenten aan de slag met bias in algoritmes(opent in nieuw tabblad) - PD OD 35-2024

Voor meer informatie:

Drs Inge Strijker, docent-onderzoeker Digital Business & Society, IA.Strijker@windesheim.nl(opent in nieuw tabblad)