vak & mens
advocaat en algoritme
SyRI 2.0 speurt naar ‘verwonderadressen’
Gemeenten blijven knutselen aan algoritmes. Hoe controleer je een influencer in de bijstand?
‘Het gevaar van kunstmatige intelligentie is niet dat machines steeds meer als mensen gaan denken, maar dat mensen steeds meer als machines gaan denken,’ waarschuwde ICT-wetenschapper Joseph Weizenbaum ooit. Op korte termijn vinden overheidsinstellingen het wel makkelijk dat de ambtenaar zijn taak routinematig uitvoert, als een verlengstuk van het softwarepakket.
Sinds het Toeslagenschandaal worden algoritmes overal kritisch tegen het licht gehouden. Dat was in ieder geval de bedoeling. Zo trok de Vereniging van Nederlandse Gemeenten (VNG) haar handen af van de fraudescorekaart, een algoritme dat sinds 2003 bijstandsgerechtigden in 160 gemeenten profileerde op basis van deels onduidelijke en deels etnische criteria. Zeventien jaar fraudejacht heeft opmerkelijk genoeg maar tot één vermelding in een gepubliceerde uitspraak geleid. Al in 2011, toen de ellende bij de Belastingdienst nog moest beginnen, kreeg advocaat Marcel Mes uit Hoorn gelijk van de Centrale Raad van Beroep. Zijn cliënte had nooit op basis van een onduidelijk algoritme een huisbezoek mogen krijgen en haar bijstand had niet mogen worden afgewezen. Het algoritme vond het verdacht dat ze met zeven anderen stond ingeschreven op hetzelfde adres. Maar ze huurde een kamer bij een gezin met vier kinderen.
‘Die profielen bleef ik de jaren daarna steeds tegenkomen,’ zegt Mes, ‘kamerverhuur. Alleenstaande ouders. Per definitie verdacht. Sociaal rechercheurs gaan op zoek naar verzwegen relaties.’ Sinds 2020 ziet hij wel een omslag. ‘Er komt een nieuwe Participatiewet, met meer ruimte voor de menselijke maat. Het doenvermogen wordt meer aan de mensen zelf overgelaten, de terugvordering wordt beperkt. Er komt weer ruimte voor een waarschuwing. En daar wordt al op geanticipeerd.’
Maar het wetsvoorstel zegt niets over de inzet van AI. Journalisten van het onderzoekscollectief Lighthouse Reports betrapten zeker vijf gemeenten die nog altijd met de fraudescorekaart werkten. En via de Wet open overheid kregen ze ook voor het eerst een nieuw, zelflerend algoritme in handen, dat gebruikt wordt in Rotterdam en andere gemeenten. Op basis van tientallen datapunten profileert dit algoritme weer alleenstaande moeders en mensen met een slechte beheersing van de Nederlandse taal.
In het officiële algoritmeregister van de overheid staan applicaties die bijstandsaanvragen beoordelen, mensen aan het werk moeten helpen en ook een fraudealgoritme. Overigens is het register verre van volledig. Alleen Amsterdam, Den Haag en Utrecht hebben iets ingevuld.
Bij een meldpunt van FNV kwamen ruim 150 klachten binnen van bijstandsgerechtigden. Ze voelen zich onterecht en onheus gecontroleerd door zogenaamde interventieteams, waarschijnlijk op basis van een risiciprofiel. De SyRI-coalitie van FNV en andere maatschappelijke organisaties, maakt zich grote zorgen over uitwisseling van data en profielen in de Landelijke Stuurgroep Interventieteams. In 2020 liet de groep het experimentele SyRI-algoritme door de rechter verbieden, nu verzamelt men munitie voor een nieuwe rechtszaak. Zo bestempelen in kaart gebrachte algoritmes alle werkloze kappers of bouwvakkers als verdacht. Ook door postcode, achternaam of het bezit van hond of aanhangwagen kun je op een lijst met ‘verwonderadressen’ belanden. Dan krijg je huisbezoek van zo’n interventieteam, waarin de gemeente samenwerkt met Belastingdienst, OM en IND. Doel van de aanpak is niet alleen fraudebestrijding, reageert de VNG, maar ook preventie en bemoeizorg.
Marcel Mes signaleert juist minder huisbezoeken. ‘Rechercheurs doen hun werk steeds meer online. Post een bijstandsgerechtigde foto’s van een niet-gemelde vakantie? Misschien zelfs samen met een nieuwe liefde? En bijverdiensten via crypto, online gokken of als influencer. Zo werd de uitkering stopgezet van mijn vloggende cliënte met wereldwijd 200.000 volgers. Daar zal ze wel geld mee verdienen, stelt de dienst Werk en Inkomen. Maar zij ontkent dat.’