vak & mens
advocaat en algoritme
Discriminatie als verdienmodel
De Digital Services Act gaat de platforms binnen de EU verder reguleren.
Een parlementaire enquêtecommisssie buigt zich momenteel over discriminerende risicoprofielen bij de overheid. Over profilering voor marketingdoeleinden hoor je minder. Toch verzamelen techplatforms veel meer privédata dan de Belastingdienst of het UWV. Discriminatie is hun verdienmodel: iedere gebruiker krijgt gepersonaliseerde content en reclame op maat te zien. Met massaclaims proberen privacystichtingen de winsten van de techreuzen af te romen. Maar mogen Google, Facebook en al die andere ongestraft blijven discrimineren?
Nee, zegt Paddy Leerssen, postdoctoraal onderzoeker aan de rechtenfaculteit van de UvA. De Digital Services Act (DSA) gaat het profileren binnen de EU aan banden leggen. ‘Een totaalverbod op gepersonaliseerde content heeft de eindversie niet gehaald, maar er gaat wel veel veranderen.’ Zo mogen platforms vanaf volgend jaar niet meer profileren op basis van bijvoorbeeld ras, medische en biometrische gegevens en politieke of seksuele voorkeur. Kinderen mogen helemaal niet meer benaderd worden met gepersonaliseerde content en elke gebruiker moet op eenvoudige wijze kunnen kiezen voor niet-gepensonaliseerde content. Hij kan het algoritme straks dus makkelijk aan- en uitzetten.
Naast tal van andere regels werkt de nieuwe wet de vage normen van de AVG over profilering verder uit. ‘In de Verenigde Staten is uit onderzoek gebleken dat mensen van kleur via sociale media slechtere huizen en banen krijgen aangeboden dan witte mensen. In Europa zal dat niet anders zijn en het geldt natuurlijk ook voor andere content: nepnieuws, ongezonde producten, gokreclames.’ De gebruiker zal nu nog denken dat het aanbevelingssysteem iedereen hetzelfde voorschotelt en zich niet snel gediscrimineerd voelen. En hij weet niet welke kansen hem door het algoritme onthouden worden. De DSA probeert dit transparanter te maken.
‘Facebook schijnt op basis van klikgedrag op foto’s van vrienden te kunnen voorspellen hoelang je relatie standhoudt,’ zegt Victor den Hollander van het Amsterdamse advocatenkantoor De Vos & Partners. ‘Als je meer naar andere mannen of vrouwen gaat kijken, dan is verandering van je relatiestatus een kwestie van tijd.’
We zijn ons bijna nooit bewust van de wolk aan data die continu onzichtbaar boven ons hoofd hangt. Totdat een vrouw in de supermarkt opeens haar naam las op een kassabon. Ze had betaald met een creditcard, en ook het kaartnummer was door het pinautomaat uitgeprint. ‘Dan gaan alle privacystekels recht overeind staan,’ zegt Den Hollander. Namens zijn cliënte diende hij een klacht in en de supermarkt paste de software aan. ‘Je weet niet welke informatie onder de motorkap zit en wat daarmee gebeurt. Met de DSA wordt dat voor de platforms meer transparant.’
‘Ik verwacht niet veel claims van consumenten,’ zegt Tim de Klerck van het Bossche advocatenkantoor Van Iersel Luchtman. ‘De meeste mensen interesseert het niet zoveel, ook al neemt het bewustzijn wel toe. Privacyschending levert vaak ook geen grote materiële schade op. Ik zie het het meest voorbijkomen als extra argument bij een ander conflict. Wat dat betreft, zal deze wet ons niet veel werk gaan bezorgen. We adviseren momenteel wel veel techbedrijven die hun website aan de nieuwe regels moeten aanpassen.’ Hij signaleert dat de EU soms wat achterblijft met techinnovatie, maar met de strenge regelgeving wel vooroploopt en een standaard zet voor andere landen.
Leerssen waarschuwt voor een wildgroei aan nieuwe regels. ‘We hebben al de AVG, nu komt de DSA erbij, straks ook de AI wet, de Political Advertising Regulation, de Data Act, de Data Governance Act, de European Media Freedom Act enzovoort. Hoe houden we het overzicht?’