Hoe zou jij je voelen wanneer er over jouw vrijheid en jouw doen en laten zou beslist worden door big data analytics? En wanneer deze analyses het verloop van jouw proces bepaalden? Zijn we ons voldoende bewust van de impact die dit heeft op het leven van een individu?
Screening
Met de nationale veiligheid als argument, controleren de overheden hun burgers steeds meer: screening van databases en digitale watchlisting-systemen zijn de laatste jaren de trend. De bestrijding van de Covid-19 pandemie lijkt de massale dataverzameling nog te versterken met de gezondheid als troefkaart.
Sinds Snowden in 2013 aan het licht bracht dat overheden via allerlei technische én juridische kanalen toegang hebben tot gegevens van tal van (niet enkel) Amerikaanse burgers, lijkt onze bewustwording en bezorgdheid hieromtrent niet te stoppen. Al hebben ze vanuit hun positie wettelijk geregelde overheidstoegang tot datasets die zowel openbare als particuliere gegevens bevatten, het probleem is niet beperkt tot overheden. Ook private ondernemingen (denk dan zeker aan de technologiegiganten) hebben steeds vaker toegang tot massale data die kan leiden tot een ongekend machtsevenwicht tussen burger/consument en overheid/onderneming. Hoe meer men over je weet, hoe meer een individu in een precaire positie terecht komt.
Blacklisting
Big data technologieën maken het mogelijk om gegevens op te sporen en vervolgens te isoleren van digitaal gegenereerde gegevens die opvallen, waaronder associatieve en correlatieve gegevens, datapatronen en algoritmisch gematchte gegevens. Belangrijk om hierbij te onhouden is dat zowel associatie (wanneer er een patroon is dat té sterk is om louter op toeval te berusten) als correlatie (wat een vorm van associatie is waarbij de relaties in een lineaire trend ingeschaald worden op hun nabijheid) zowel sterk als zwak kunnen zijn.
Deze gegevens die opvallen door de analyse, duiden we ook wel aan als verdachte gegevens.
Het koppelen van deze verdachte gegevens aan een reeks gevolgen voor het individu, of het nu gebeurt door een overheid of door een private onderneming, heeft natuurlijk een enorme impact. Op die manier kunnen big datatechnologieën immers een vermoeden van schuld creëren wanneer een persoon verbonden wordt aan verdachte digitale gegevens of resultaten van de screening van databanken. Vervolgens komt dit individu terecht op de ‘blacklist’.
Big data blacklisting is het proces waarbij personen op grond van verdachte digitale gegevens en resultaten van de screening van databanken als ‘schuldig’ worden gecategoriseerd, totdat hun onschuld is bewezen en waarbij ze dus uitgesloten worden van bepaalde rechten of voordelen.
Black Box Society
Het mechanisme dat leidt tot blacklisting, heeft als gevolg dat de bewijslast impliciet verschuift naar diegene die digitaal op de blacklist komt te staan.
Een potentieel risico hiervan is het ‘Black Box’-probleem: in een ‘Black Box Society’ is er vaak een gebrek aan toegang tot alle bewijsmateriaal van hoe een individu op de blacklist terecht is gekomen (ten gevolge van het onvermogen om algoritmen en databanken te ondervragen).
Het is bovendien verkeerd om te denken dat big data analyses alleen causale relaties aan het licht brengen, terwijl het eigenlijk louter om correlatie gaat, die bovendien ook nog eens sterk of zwak kan zijn. Het probleem met correlaties is dus dat ze niet altijd correct worden geïnterpreteerd, zodat ze vaak worden gegeneraliseerd voor een bevolkingsgroep en dus niet van toepassing zijn op het individu, met als gevolg dat individuen onterecht op de blacklist terecht komen.
Conclusie
Een beslissing die genomen wordt via big datatechnologieën moet beducht zijn voor transparantie. Indien de val van de Black Box niet vermeden wordt, zal zulke beslissing vaak niet in overeenstemming zijn met het vermoeden van onschuld, hetwelk noodzakelijk is voor het vrijheidsbeginsel.
Meer weten over big data blacklisting, twijfel niet om ons te contacteren op hallo@dejuristen.be of lees alvast onze volgende blog in deze reeks!
Geschreven door Emiel Koonen, Legal Adviser deJuristen, en Kris Seyen, Partner deJuristen
