Verder lezen?

Rechtvaardige journalistiek verdient een rechtvaardige prijs.
Maak jij OneWorld mogelijk?

ja, ik word nu lid vanaf 6,- per maand

In India kunnen burgers een twaalfcijferige code krijgen, in ruil voor hun naam, geboortedatum, gender, adres, een pasfoto, tien vingerafdrukken en een irisscan. Die code stelt Indiërs in staat om vlot aan uitkeringen, voedselhulp of pensioenen te komen. De identiteitscode valt onder het project Aadhaar, Hindi voor ‘fundament’, dat in 2009 van start ging. Biometrische dataverzameling, het digitaal opslaan van meetbare, kenmerkende biologische eigenschappen van individuen zoals vingerafdrukken of gezichtsfoto’s, wordt nergens zo massaal uitgerold als in India.

Registratie zou vrijwillig moeten zijn, maar de Indiase overheid maakt steeds meer uitkeringen en diensten afhankelijk van het hebben van een Aadhaar-nummer. Aadhaar bevat intussen de biometrische gegevens van 1,26 miljard Indiërs en is daarmee het grootste biometrische identificatiesysteem ter wereld. Maar het is beslist niet het enige.

De overheid kan bij alle identiteitsgegevens

De Unique Identification Authority of India of UIDAI is het centrale orgaan dat verantwoordelijk is voor het management van Aadhaar. Het hield tijdens rechtszaken in het Hooggerechtshof steeds vol dat het gaat om een geanonimiseerd systeem, waarin de privacy van gebruikers verregaand wordt beschermd. Maar dat blijkt niet te kloppen. Er is een wetgevend kader voor de biometrische databank, de Aadhaar Act, en die gaat het verst in de bescherming van je biometrische gegevens, dus alle biologische informatie behalve de gezichtsfoto.

Maar de wet beschermt niet de identiteitsgegevens die aan de twaalfcijferige code verbonden zijn: naam, adres, geboortedatum, telefoonnummer. Volgens sectie 8 van de wet mogen die gegevens aan ‘verzoekende partijen’ doorgegeven worden. Met andere woorden: als een telecombedrijf je vingerafdrukken en Aadhaar-nummer vraagt bij de aankoop van een simkaart, krijgt het op verzoek toegang tot al je persoonlijke informatie.

Sectie 8 voorziet wel een kleine bepaling voor de bescherming van die persoonlijke informatie: een verzoekende partij mag je persoonlijke informatie pas gebruiken als je daarvoor toestemming geeft. Critici geven echter aan dat die toestemming vaak in de kleine lettertjes van een pop-upscherm staat, dat je ziet wanneer je je verplicht registreert voor een nieuwe simkaart of voor de aankoop van bijvoorbeeld een koelkast.

Er is nog een uitzondering: op grond van ‘nationale veiligheidsredenen’ kan de overheid alle identiteitsgegevens inzien. De wet geeft geen specifieke invulling van die term ‘nationale veiligheidsredenen’. Met andere woorden: bedrijven en de overheid kunnen gemakkelijk bij alle persoonlijke gegevens gekoppeld aan het Aadhaar-nummer. Telecomreus Reliance Jio heeft al persoonlijke dossiers van 100 miljoen Indiërs aangelegd met informatie uit het Aadhaar-systeem. Het leent zich erg goed voor datamining, doorgedreven gegevensanalyse door bedrijven.

Techbedrijf Infosys ontwierp het systeem voor de overheid en richtte de UIDAI op, en CEO Nandan Nilekani blijft tot op de dag van vandaag volhouden dat het slechts om een identificatiesysteem gaat. Tegelijk klopt India zichzelf op de borst omdat het als eerste land zijn nationale databank openstelde voor private ondernemers en daarmee ‘ongekende innovatie’ mogelijk maakte.

Dodelijke systeemfouten

Ondanks de goednieuwsshow van de Indiase overheden en techbedrijven worden hele lagen van de Indiase maatschappij hard getroffen door Aadhaar. En niet alleen door voor de hand liggende privacykwesties. Het systeem, dat oorspronkelijk bedacht was om fraude met overheidssteun tegen te gaan en ongedocumenteerde migranten het land uit te jagen, laat het soms simpelweg afweten. Vingerafdrukken worden niet herkend, ambtenaren weigeren assistentie en het internetbereik in India is op veel plekken te zwak om het systeem altijd draaiend te houden.

In de oostelijke deelstaat Jharkhand documenteerden activisten in 2018 dertien gevallen van personen die waren omgekomen van de honger. De oorzaak: het uitblijven van voedselsteun wegens fouten in het systeem.

Een jaar eerder werd het hele land opgeschrikt door de dood van Santoshi Kumari, een elfjarig meisje van de dalit-kaste, de laagste rang in het Indiase kastensysteem. Haar gezin was uitgesloten van voedselhulp omdat ze zich niet hadden laten registreren in Aadhaar. De Indiase overheid reageerde met de bewering dat Kumari gestorven was aan malaria en dat er niets mankeert aan het systeem.

Een bijkomend probleem: niets houdt afzonderlijke Indiase deelstaten tegen om gegevens uit de Aadhaar-databank te linken met informatie die zij over burgers bijhouden. Steker nog: dat gebeurt automatisch. Deelstaten als Delhi, Kerala en Tamil Nadu beheerden tot voor kort elk hun eigen State Resident Data Hub (SRDH).Elke staat krijgt voor elke nieuwe inschrijving in Aadhaar de persoonlijke gegevens toegestuurd van de centrale overheid, zonder dat daarvoor toestemming voor nodig is.

De Indiase overheid wilde sekswerkers alleen coronasteun geven als zij zich registreerden in een databank

Dat kan fatale gevolgen hebben, vooral als staten slordig omspringen met die databanken. Zo waren de zwangerschapsdata van zo’n twee miljoen mensen uit deelstaat Andhra Pradesh terug te vinden op de overheidswebsite, inclusief de naam van de vader en of ze een abortus hadden laten uitvoeren.

Vrouwenrechtenactivisten wijzen erop dat dit soort datalekken mensen aanzet om buiten het reguliere gezondheidscircuit naar hulp te zoeken. Ook een artikel in het British Medical Journal van 2017 bespreekt de gevaren van Aadhaar voor de gezondheid van mensen, en vrouwen in het bijzonder. Zo zijn er gevallen bekend van mensen die hulp geweigerd wordt omdat ze geen Aadhaar-nummer willen voorleggen. In Chandigarh liet een bediende bijna het leven na een amateuristisch uitgevoerde abortus. Het staatshospitaal had de vrouw geweigerd omdat ze niet wilde dat haar Aadhaar-nummer geregistreerd werd.

Er was ook sprake van om de overheidssteun voor sekswerkers tijdens de coronacrisis afhankelijk te maken van het voorleggen van een Aadhaar-nummer. Maar de oudste beweging voor sekswerkers van het land wist het Hooggerechtshof ervan te overtuigen dat niet toe te laten. Hun recht op anonimiteit bleef behouden. Geregistreerd staan als sekswerker in een databank van de overheid kan zware gevolgen hebben. In India is het verstrekken van financiële diensten aan sekswerkers bij wet verboden. En banken blijken via de Aadhaar-nummers ook vaak toegang te hebben tot overheidsdatabanken.

‘Software ziet geen geloof’

India lijkt intussen klaar voor een nieuw hoofdstuk in de biometrische registratie van haar burgers: er staat een project in de steigers voor de uitrol van een nationaal systeem van gezichtsherkenning via bewakingscamera’s. Het systeem heeft nog geen naam, maar komt onder de controle te staan van het ministerie van Binnenlandse Zaken. De gegevens zullen toegankelijk zijn voor elk politiekantoor in India.

New Delhi kreeg een jaar geleden al een voorproefje van wat dat zou kunnen betekenen. Minister van Binnenlandse Zaken Amit Shah vertelde toen aan het Indiase parlement dat 1100 relschoppers waren geïdentificeerd via gezichtsherkenning tijdens rellen in New Delhi. Die braken uit in de nasleep van de omstreden ‘Burgerschapswet’ waarmee religieuze minderheden uit Bangladesh, Pakistan en Afghanistan de Indiase nationaliteit kunnen verwerven. Enkel moslims zijn uitgesloten van de procedure.

Hoe neutraal is technologie als politiediensten en ministeries weten wie hindoe is en wie moslim?

Er zou dus verondersteld kunnen worden dat moslims de rellen waren begonnen. Maar in onafhankelijke rapporten stond te lezen dat juist moslimwijken het doelwit waren van gerichte aanvallen door nationalistische hindoes. Wie de misdaden ook gepleegd heeft, de daders zullen gepakt worden, zei minister Shah in het parlement: ‘Dit is software. Die ziet geen religie, geen klederdracht. Hij ziet enkel het gezicht en zo wordt de persoon gepakt.’ De minister werd zo de grootste pleitbezorger van de neutraliteit van machines.

Maar er is alle reden om te twijfelen aan die neutraliteit. Hoe neutraal is de technologie als politiediensten en ministeries weten wie hindoe is en wie moslim? Shah gaf namelijk toe dat data van gezichtsherkenning vergeleken zouden worden met beelden uit databanken in het bezit van de overheid, zoals identiteitskaarten, rijbewijzen en ‘andere databanken’. Software ziet geen religie, maar Aadhaar en de hindoe-nationalistische minister Shah wel.

Gebrek aan transparantie

Anushka Jain, een jonge vrouw uit New Delhi, leidt het project Panoptic, dat technologie voor gezichtsherkenning in kaart brengt voor de Internet Freedom Foundation (IFF), een vereniging voor de bescherming van digitale rechten in New Delhi. Zij probeert sinds een jaar uit te vissen of er in bovengenoemde zaak al arrestaties zijn verricht. Vooralsnog heeft haar zoektocht weinig opgeleverd, de politie hult zich in stilzwijgen.

“Ik ben er zeker van dat er onderzoeken lopen tegen geïdentificeerde personen, maar dat wil men ons niet zwart op wit bevestigen”, zegt Jain via Skype. Ze is ervan overtuigd dat, als er sprake is van arrestaties, het hoofdzakelijk om moslims zou gaan. Jain verwijt de Indiase overheid enerzijds een totaal gebrek aan transparantie, en anderzijds politieke controle toegedekt door de voorgewende neutraliteit van technologie. “Hoe kun je anders verklaren dat juist die groepen die het meest gediscrimineerd zijn ook het vaakst het slachtoffer worden van deze technologie?”

Ondanks internationale kritiek zet India zichzelf in de markt als dé techbestemming van Azië

Vrouwen, bijvoorbeeld. Jain vertelt over de stad Lucknow in Uttar Pradesh, waar de politie plannen aankondigde voor de uitrol van een bewakingssysteem met gezichtsherkenning. “In wijken waar veel vrouwen passeren en waar vrouwen vaak worden lastiggevallen door mannen”, zegt Jain, “zouden intelligente camera’s in staat zijn om de gezichtsexpressie van vrouwen te lezen. Zodat in het geval van emotionele stress een alarm afgaat in het dichtstbijzijnde politiestation. Dat lijkt misschien een goed idee, maar ik kan me persoonlijk geen grotere inbreuk op mijn privacy bedenken.”

Jain: “Als wij twee een verhitte discussie zouden hebben op straat in Lucknow, kan het zijn dat de politie jou komt lastigvallen. En daarmee hebben ze ook een reden om mij lastig te vallen.” India is berucht om zijn bijzonder slechte staat van dienst als het gaat om seksueel overschrijdend gedrag, ook bij politiekorpsen. Jain wijst ook op het gevaar van gezichtsherkenning en Aadhaar voor interreligieuze relaties. Politiediensten in het hele land treden daar nu al tegen op, vooral in staten die bestuurd worden door de hindoe-nationalistische partij van premier Modi.

Ondanks internationale kritiek op Aadhaar en gezichtsherkenning, zet India zich bewust in de markt als de nieuwe tech-bestemming in Azië, dankzij onder andere de vrije beschikbaarheid van persoonlijke gegevens. Data is the new oil.

Toeslagenaffaire: software die je als fraudeur bestempelt

In de toeslagenaffaire, waarover de Nederlandse regering in januari viel, werden naar schatting 26.000 ouders slachtoffer van onterechte fraudeverdenkingen met de toeslag voor kinderopvang. De Systeem Risico-indicatiesoftware of SyRI koppelde gegevens uit verschillende overheidsdatabanken aan elkaar om te voorspellen of iemand al of niet een fraudeur was. Mensen met een dubbele nationaliteit of met een ‘exotische’ familienaam werden extra gecontroleerd, net als personen die in armere wijken woonden. Hoe de risicoberekening er precies uitzag, werd nooit gedeeld.

“Duidelijk was wel dat mensen geviseerd werden op basis van afkomst en postcode”, vertelt Ella Jakubowska van de Europese organisatie voor de verdediging van digitale rechten, EDRi. “Er wordt volgehouden dat dit geen aanslag is op onze basisrechten. Terwijl deze futuristische systemen ons in feite terugbombarderen naar de Victoriaanse tijd. Op basis van de afstand tussen je ogen of de grootte van je schedel werd toen uitgemaakt of je een crimineel karakter had.”

Jakubowska heeft zelf een achtergrond als onderzoekster in een datalab van een tech-multinational. Ze liet zich als activiste inspireren door de vijf Amerikaanse steden die gezichtsherkenning in de publieke ruimte verboden hebben: Oakland, Somerville, Berkeley, Portland en San Francisco, de thuisbasis van Silicon Valley.

Gezichtsherkenning is ‘een oplossing op zoek naar een probleem’

Jakubowska wil een stap verder gaan en de Europese Commissie via een burgerinitiatief vragen om een verbod op elke vorm van biometrisch massatoezicht, inclusief gezichtsherkenning. “Wanneer is het gebruik van technologie echt noodzakelijk, legitiem en met wederzijdse instemming, eerder dan gewoon sexy en opwindend?”, vraagt ze.

Maakt haar initiatief kans op slagen? Wojciech Wiewiórowski, de Europese Toezichthouder voor gegevensbescherming, verklaarde eind 2019 nog dat gezichtsherkenning ‘een symptoom van stijgende populistische intolerantie’ is en volgens hem ‘een oplossing op zoek naar een probleem’. Er is geen wetenschappelijk bewijs dat gezichtsherkenning een effect heeft op misdaad. De enige studie waar sprake was van een verband, toonde een marginaal effect op kruimeldiefstallen in parkeergarages, uitsluitend met bewakingscamera’s en zonder gezichtsherkenning.

Toch besluiten steeds meer politiekorpsen en overheden in Europa om de technologie uit te rollen. Nice in Zuid-Frankrijk is momenteel de koploper met 2600 camera’s, één per 128 inwoners. “Overheden gedragen zich in het beste geval naïef”, licht Jakubowska toe.” Ze geloven het argument van techbedrijven dat dit een pasklare oplossing is tegen terrorisme of mensenhandel. Terwijl daar geen bewijzen voor zijn. Overheden in Europa zijn ook steeds vaker ondergefinancierd. Een cadeau van de steenrijke techindustrie is dus welkom, zeker als daarmee de schijn gecreëerd kan worden dat de straten er veiliger op worden.”

De mogelijkheden voor onderdrukking en staatscontrole worden ondertussen alleen maar groter, zeggen rechtenactivisten unaniem. Wie zal niet twee keer nadenken voor hij meedoet aan een protest in een publieke ruimte waar je gezicht geregistreerd kan worden? Dat heet in jargon het chilling effect en is volgens activisten een flagrante schending van het recht op vrije meningsuiting. “Wanneer zag je ooit een sciencefictionfilm”, vraagt Jakubowska, “waarbij de overheid ons voortdurend in de gaten houdt, altijd weet waar we zijn, wie we zijn en wat we doen, en dat we daar dan met zijn allen beter van worden?”

‘Blade Runner’ in Europa

En inderdaad, denk maar aan de filmklassieker Blade Runner (1982). In een van de meest iconische scènes van de film leggen verdachten de ‘Voight-Kampff-test’ af, een test die in het toen nog toekomstige jaar 2019 door de politie van Los Angeles in gebruik genomen zou worden, en op basis van biometrische gegevens – ademhaling, hartslag en verkleuring van het gelaat – zou uitmaken of iemand een gewone sterveling was of een genetisch gemodificeerde replica.

Was de film wellicht een inspiratiebron voor de Europese Commissie? In elk geval liep de timing van haar iBorder-Ctrl-systeem akelig gelijk: in 2019 liepen de experimenten daarmee af. iBorderCtrl is een geautomatiseerd systeem aan de buitengrenzen van de EU dat uitmaakt of inreizende personen al dan niet liegen, op basis van microbewegingen in het gelaat. Wie verdacht wordt van liegen, wordt strenger gecontroleerd door de grensagenten. Zo zouden illegale migranten en terroristen onderschept worden, zo stelde de Europese Commissie.

Kunnen we toelaten dat bedrijven algoritmes ontwikkelen die beslissingen nemen over onze rechten?

De Commissie investeerde 4,5 miljoen euro in het project. Ze weigerde het evaluatierapport in 2019 openbaar te maken; dat zou de commerciële belangen van de bedrijven achter het project kunnen schaden. Duits Europarlementslid Patrick Breyer van de Duitse Piratenpartij deed het project stellig af als ‘pseudowetenschappelijke veiligheidshocuspocus’. Hij daagde de Commissie voor het Europees Hof van Justitie omdat die het rapport niet publiek wil maken. De eerste zitting vond plaats op 5 februari.

De vraag die Breyers rechtszaak in essentie stelt is de volgende: kunnen we toelaten dat bedrijven algoritmes ontwikkelen die beslissingen nemen over onze rechten, terwijl we niet mogen weten waarop die beslissingen gebaseerd zijn? En houden overheden nog wel voldoende het publieke belang voor ogen, of laten zij zich voor het karretje spannen van de techbedrijven?

Dit artikel verscheen eerder op MO*.

D09A8505

‘Zwart? Dan rijdt de zelfrijdende auto jou eerder aan’

Discriminerende algoritmes versterken ongelijkheid, waarschuwt deze neuro-informaticus.

work-1605825554-2x

Is de overheid tegen ‘Big Data’ opgewassen?

‘Hoe meer data, hoe meer winst − en winst gaat boven alles.’

yiXVgltC_400x400

Over de auteur

Daan Bauwens is een Belgische onderzoeksjournalist, en heeft als freelancer stukken gemaakt voor Vice, De Morgen, De Standaard, Knack, MO* …
Bezoek auteurspagina

Ik wil dat OneWorld blijft bestaan

AbonneerDoneer

Lees je bewust via onze wekelijkse nieuwsbrief