vak & mens
advocaat en algoritme
Arbitrair algoritme ontwapent jagers
Het algoritme bepaalt of je gevaarlijk bent, psychopaat of juist te sociaal wenselijk doet.
Gamers kunnen vrijelijk het vizier richten op een prooi naar keuze. Eén muisklik en het monster spat uiteen. Er zijn ook meer dan zestigduizend hobbyschutters met een echt vuurwapen, op de schietbaan of in de vrije natuur. Sluipend door het struikgewas, het geluid van de vogels, de geur van dorre bladeren: analoger wordt het niet. Hier ben je aangewezen op je zintuigen en instincten. Sommige oudere jagers hebben computers altijd op afstand gehouden. Maar voor het aanvragen of verlengen van hun jachtakte – die tegenwoordig ‘Omgevingsvergunning jachtgeweeractiviteit’ heet, werden ze vanaf 2019 beoordeeld door een algoritme, de e-screener. Op een speciale testlocatie moest de jager zo’n honderd, vaak intieme vragen beantwoorden: Heeft u de wet weleens overtreden? Voelt u zich soms neerslachtig? Heeft u ooit iemand pijn gedaan? Of iets gestolen? Het antwoord moet snel en je kunt niet terugklikken om te corrigeren.
‘Heeft u weleens een dier pijn gedaan? Hoe moet een jager daarop antwoorden?’ vraagt Paul Timmer-Arends, jurist van de Koninklijke Nederlandse Jagersvereniging. Wie te veel sociaal wenselijke antwoorden geeft, kreeg een oranje score en moest de test opnieuw maken. Wie eerlijk antwoordt, loopt kans op een rode score. Maar liefst één op de vijf kandidaten kreeg een negatieve uitslag. ‘Een voormalig beveiliger van het Koninklijk Huis kreeg te horen dat hij een gevaar vormde voor de samenleving. Een ander lid had volgens het algoritme psychopathische trekken.’
Direct na de rode uitslag kwamen politieagenten aan de deur om de wapens van de afgewezen jager of sportschutter in bewaring te nemen. ‘Mensen die al tientallen jaren jagen, werden opeens gestigmatiseerd. Ze moesten uitleggen waarom ze niet meer meegingen op jacht. Dat ging rondzingen in het dorp. Psychopaat. De overheid zal dat toch niet zomaar zeggen? Terwijl het totaal onduidelijk was hoe het algoritme tot zo’n oordeel kwam en er een grote foutmarge werd gehanteerd.’
Volgens de belangenvereniging is de doorsneejager stabiel, gezagsgetrouw en zonder strafblad, een natuurliefhebber die wil bijdragen aan een stukje faunabeheer. Samen met de sportschutters spanden de jagers een aantal procedures aan. Alle rode uitslagen van de e-screener bleken achteraf onterecht. Iedereen kreeg uiteindelijk zijn akte terug. Soms waren er een lange adem en een kostbaar psychiatrisch rapport voor nodig, een second opinion om de diagnose van de e-screener te weerleggen.
Het is nooit helemaal te voorspellen waartoe iemand onder invloed van een psychose, drank, drugs of extreme omstandigheden in staat is. Waarom zou de digitale puntenscore van een doorzichtige vragenlijst een betrouwbaardere inschatting geven dan bijvoorbeeld de heksenproef of een schedelmeting? ‘Hoe het algoritme werkt blijft een black box,’ zegt Timmer-Arends. ‘De aanvrager krijgt de uitslag, maar geen onderbouwing. Want dan zou hij die kennis bij een volgende poging kunnen gebruiken. Hij kan zich dus niet verweren.’
Na alle rechtszaken en Kamervragen werd de e-screener in 2022 opgeschort. Maar Timmer-Arends blijft namens zijn achterban procederen. ‘De e-screener is helaas niet definitief van de baan. We willen weten wat er met de testresultaten gebeurt. Worden die straks bij een nieuwe aanvraag weer meegenomen?’
In maart moest de rechtbank Gelderland een inzageverzoek hierover afwijzen, omdat niemand zich verwerkingsverantwoordelijk acht voor de gevraagde testantwoorden. De minister van Justitie en Veiligheid en de korpschef wijzen naar elkaar. De Jagersvereniging overweegt hoger beroep. ‘De e-screener is volgens ons inhoudelijk ver onder de maat, maar ook de privacy is dus niet geregeld. Wat ons betreft komt er geen verbeterde versie meer. Computers kunnen politiemedewerkers niet vervangen.’