Change the system from within

Het doel van dit onderzoek is om, middels detectie en classificatie van seksisme in diverse Nederlandstalige databronnen, patronen te herkennen en handvatten te krijgen om seksisme in deze bronnen en daarmee in AI-systemen te verminderen.

• [Het project in (max 5) bullets met tenminste onderstaande bullets in deze volgorde:]
• Lectoraat: Digital Business & Society
• Betrokken onderzoekers: Inge Strijker,(opent in nieuw tabblad) onderzoeker, promotor, Hoogleraar didactiek van de informatica Felienne Hermans(opent in nieuw tabblad) (VU), co-promotor,lector Digital Business & Society, Erik Fledderus (Windesheim)
• Partners: Vrije Universiteit Amsterdam 

Aanleiding 

AI-systemen worden getraind met bronnen die een afspiegeling zijn van de maatschappij. Omdat seksisme voorkomt in de maatschappij, en daarmee in de bronnen, zien we dat de resultaten van de AI-systemen (als ChatGPT) veelal een vorm van seksisme in zich hebben. Dit effect wordt versterkt door de werking van bepaalde algoritmes. Met de opmars van AI-systemen in onze maatschappij en in ons denken wordt het belangrijker om brondata te gebruiken die zo genderneutraal mogelijk is om zo tot meer rechtvaardige uitkomsten van deze systemen te komen. 

Onderzoeksdoel en -opzet

AI-systemen kunnen helpen bij het detecteren en calssificeren van seksisme in bronnen. Er is al internationaal onderzoek gedaan naar het detecteren en verminderen van vooroordelen in digitale bronnen als social media.Resultaten uit deze onderzoeken kunnen tot op zekere hoogte gebruikt worden voor de Nederlandse taal omdat frameworks vertaalmachines bevatten. Echter de vertaalmachines van deze frameworks gaan vaak voorbij aan de culturele nuances en taalkundige subtiliteiten die kenmerkend zijn voor een taal als het Nederlands.

Daarnaast is er weinig onderzoek gedaan naar het detecteren van seksisme in andere bronnen dan social media. En dat terwijl AI-systemen getraind worden met ook andere bronnen zoals boeken, rapporten en websites. De verwachting is dat seksistische uitingen in deze bronnen vaak subtieler van aard is en daardoor moeilijker te detecteren, en daardoor kunnen leiden tot seksistische resultaten van AI-systemen.

Om subtiele vormen van seksisme in Nederlandstalige bronnen te kunnen detecteren en classificeren, is het eerst nodig om een taxonomie te ontwikkelen die deze subtiele vormen van seksisme vangt. Aan de hand van deze taxonomie wordt een codeboek ontwikkeld waarmee datasets gelabeld kunnen worden. Met deze gelabelde datasets kunnen AI-systemen getraind worden. In dit onderzoek worden diverse bronnen onderzocht op seksisme om hiermee het model voor detectie en classificatie van seksisme aan te scherpen. 

Meer weten? 

Neem contact op met onderzoeker Inge Strijker, email: ia.strijker@windesheim.nl(opent in nieuw tabblad)