Op donderdag 13 april organiseert debatplatform De Dépendance een avond over het onderzoek dat OPEN Rotterdam samen met Vers Beton en Lighthouse Reports deed naar het algoritme dat de gemeente Rotterdam tussen 2018 en 2021 heeft gebruikt voor het opsporen van mogelijke bijstandsfraude. Op deze avond in The Independent School for the City zijn onderzoeksjournalist Gabriel Geiger van Lighthouse Reports samen met digitaal antropoloog Miriyam Aouragh (Westminster University London) en hoogleraar bestuursrecht Sofia Ranchordas (Tilburg University) te gast.
Ze bespreken wat we precies hebben ontdekt over het algoritme en waarom het ertoe doet. Ze gaan in op de ernstige gebreken en vooroordelen die het Rotterdamse algoritme bevat, de menselijke impact die het veroorzaakt door zijn beslissingen en wat het onthult over de toekomst van AI. De avond wordt gemodereerd door wetenschapsjournalist Geert Maarse. Ga naar de website van de Dépendance voor meer informatie.
Uitgelegd
Eerder ging OPEN al in gesprek met een aantal Rotterdamse deskundigen over het algoritme. Gwen van Eijk, onderzoeker mensenrechten voor Amnesty International zei toen dat het algoritme kan leiden tot wantrouwen richting de overheid: “De manier waarop de gemeente hier deze subjectieve gegevens heeft gebruikt is zeer problematisch. Je weet niet goed waarom je bent geselecteerd voor controle.”
Naar aanleiding van het onderzoek zijn vragen gesteld in het Europees Parlement en de Rotterdamse gemeenteraad. Het algoritme blijkt namelijk alleenstaande moeders te hebben benadeeld. In het Europees Parlement en de Rotterdamse gemeenteraad wordt opgeroepen om het gebruik van zogenaamde ‘hoog-risico’ algoritmes te verminderen.
Benieuwd hoe het algoritme in zijn werk ging, bekijk dan de explainer:
Oproep: ben jij tussen 2018 en 2021 uitgenodigd voor een heronderzoek bijstandsuitkering en vermoed je dat je bent geselecteerd door het algoritme? Dan willen Vers Beton en OPEN Rotterdam graag met je in contact komen. Mail naar [email protected].