Bijna vier jaar kon een handjevol Rotterdamse ambtenaren ongestoord experimenteren met een algoritme om bijstandsfraude op te sporen. De gemeenteraad wist van niets. Pas in 2021 trapten gemeenteraadsleden op de rem, maar toen had wethouder Richard Moti zelf het gebruik van dit tweede algoritme al gepauzeerd.
Rotterdam is in 2017 niet de eerste gemeente met interesse in algoritmes. De rekenmodellen kunnen heel snel patronen herkennen in grote hoeveelheden data. Dat scheelt ambtenaren veel werk. Samen met de Erasmus Universiteit ontwikkelt de IT-tak van Accenture een “Pilot bestrijding uitkeringsfraude”. Dit algoritme wordt vanaf 2018 door de ambtenaren van de afdeling Onderzoek en Business Intelligence (OBI) verder ontwikkeld.
De gemeenteraad weet op dat moment van niets. De raadsleden zijn gefocust op een ánder algoritme voor uitkeringsfraude: SyRI. Ondanks kritiek van mensenrechtenorganisaties, wil het Rotterdamse college hier graag mee werken. In de zomer van 2018 wordt het SyRI-algoritme losgelaten op twaalfduizend adressen in Bloemhof en Hillesluis. Ongeveer 10 procent van de mensen op deze adressen wordt aangemerkt als fraudeur.
Aarzelingen
Voordat de huisbezoeken van de sociale recherche in Rotterdam-Zuid kunnen plaatsvinden, zet burgemeester Aboutaleb SyRI stop omdat het gebruik van SyRI “niet proportioneel” is voor het doel. De gemeenteraad weet op dat moment niet dat er nóg een algoritme in Rotterdam draait voor de opsporing van bijstandsfraude. Pas in 2019 vertelt wethouder Richard Moti dit, de gemeenteraad vraagt op dat moment niet door.
Op de vraag waarom de gemeenteraad zo laat werd geïnformeerd, zegt een woordvoerder van de gemeente dat het algoritme niet als ‘gevoelig’ werd gezien. Het Toeslagenschandaal is voor wethouder Richard Moti aanleiding om een groep experts binnen de gemeente nog eens extra naar het algoritme te laten kijken. De conclusie: zowel de data die in het algoritme gaan als die eruit komen, zijn volgens de experts niet vooringenomen.
Pauze
De Rotterdamse Rekenkamer laat in april 2021 weten dat ze hier anders over denkt. Ze vindt dat de gemeente niet genoeg zijn best heeft gedaan om vooringenomen uitkomsten te voorkomen. Pas in september 2021 discussieert de gemeenteraad hierover.
Er worden zeven moties aangenomen die ervoor moeten zorgen dat het algoritme “eerlijk en transparant” wordt. Wethouder Moti heeft het bijstandsalgoritme dan al gepauzeerd, en 102 persoonskenmerken die indirect zouden kunnen leiden tot discriminatie geschrapt.
Benieuwd naar het hele onderzoek van Romy van Dijk en Saskia Klaassen? Lees op Vers Beton verder hoe de gemeente al eerder signalen over mogelijke problemen met het algoritme negeerde.
Wil je meer lezen en zien over het bijstandsalgoritme? Eerder publiceerde OPEN Rotterdam, in samenwerking met Vers Beton en Lighthouse Reports, al twee keer over dit algoritme. Je vindt die artikelen hier en hier.
Deze productie werd mogelijk dankzij steun van het Stimuleringsfonds voor de Journalistiek.