In 2017 bouwde de gemeente een algoritme dat Rotterdammers in de bijstand een individuele fraude-risicoscore geeft. Met deze score wordt door de gemeente bepaald of er gecontroleerd moet worden of iemand nog recht heeft op bijstand. Ondanks waarschuwingen van wetenschappers over dit algoritme bleef de gemeente er vier jaar lang in geloven, blijkt uit onderzoek van Vers Beton en OPEN Rotterdam.
Stel eerst vast of het algoritme eerlijk en accuraat is voordat je het gaat gebruiken. Dat advies geven onderzoekers van de Hogeschool Rotterdam de gemeente in 2018. De wetenschappers wijzen daarbij naar wetten over privacy en over het voorkomen van discriminatie. Maar met de kritische opmerkingen wordt door de gemeente niets gedaan, zegt wetenschapper Sunil Choenni van de hogeschool: “Ze denken: ‘fouten repareren we later wel’.”
Opzet
De gemeente werkt liever samen met de minder kritische IT-tak van organisatie-adviesbureau Accenture. Dat bureau heeft in Ierland in drie jaar 50 miljoen euro aan uitkeringen teruggevorderd. Accenture ontwikkelt een algoritme voor fraude-opsporing dat Rotterdamse ambtenaren vanaf 2018 verder ontwikkelen. En tot augustus 2021 zullen gebruiken.
Al snel komt de gemeente erachter dat fraude-opsporing lastig is. Een computer kan namelijk niet bepalen of er sprake is van opzet. En als je op zoek bent naar fraude, is opzet nou juist precies waar je naar zoekt. Wel kan het algoritme voorspellen hoe groot de kans is dat er iets niet klopt aan de bijstandsuitkering. Een ambtenaar van de gemeente moet vervolgens controleren of er echt iets niet klopt in een zogenoemd heronderzoek.
Stressvolle onderzoeken
Een heronderzoek staat onder Rotterdammers met een uitkering bekend als zeer stressvol, omdat je dan je hele financiële administratie moet laten zien. Uit eerder onderzoek van Vers Beton en OPEN Rotterdam bleek dat de kleinste bijschrijving aanleiding kan zijn voor discussie en dreigementen dat de uitkering kan worden stopgezet of teruggevorderd. In totaal werden tussen 2018 en 2021 3.365 Rotterdammers uitgekozen voor een heronderzoek door het algoritme.
In april 2021 tikt de Rotterdamse Rekenkamer de gemeente op de vingers en presenteren ze een rapport over het algoritme. De Rekenkamer zegt dat het college te weinig aandacht heeft besteed aan eerlijkheid en transparantie. Ook deed de gemeente niet genoeg om te voorkomen dat het algoritme vooringenomen is en bepaalde groepen benadeelt.
Gestaakt
Vier maanden na het Rekenkamerrapport, in augustus 2021, pauzeert de verantwoordelijke wethouder Richard Moti het algoritme. Hij haalt alle onderdelen uit het algoritme die indirect zouden kunnen leiden tot discriminatie. In september van datzelfde jaar eist de gemeenteraad in zeven moties dat een volgend bijstandsalgoritme ‘eerlijk en transparant’ is. Dat blijkt niet mogelijk te zijn. In juni van dit jaar meldt de nieuwe wethouder Tim Versnel dat de ontwikkeling van dit ‘eerlijke’ algoritme wordt gestaakt.
Benieuwd naar het hele onderzoek van Romy van Dijk en Saskia Klaassen? Lees op Vers Beton verder waarom ambtenaren ongestoord konden experimenteren met het algoritme.
Wil je meer lezen en zien over het bijstandsalgoritme? Eerder publiceerde OPEN Rotterdam, in samenwerking met Vers Beton en Lighthouse Reports, al twee keer over dit algoritme. Je vindt die artikelen hier en hier.
Deze productie werd mogelijk dankzij steun van het Stimuleringsfonds voor de Journalistiek.