Comment vous sentiriez-vous si votre liberté et vos actions étaient décidées par ‘big data analytics’ ? Et quand ces analyses détermineront-elles le cours de votre processus ? Sommes-nous suffisamment conscients de l’impact que cela a sur la vie d’un individu ?
Screening
Sous prétexte de sécurité nationale, les gouvernements contrôlent de plus en plus leurs citoyens : le filtrage des bases de données et les systèmes de listes de surveillance numériques ont été la tendance de ces dernières années. La lutte contre la pandémie de Covid-19 semble renforcer la collecte massive de données avec la santé comme atout.
Depuis que Snowden a révélé en 2013 que les gouvernements ont accès aux données de nombreux (et pas seulement) citoyens américains par toutes sortes de canaux techniques et juridiques, notre conscience et notre inquiétude à ce sujet ne semblent pas s’arrêter. Même si les gouvernements ont légalement réglementé leur accès aux ensembles de données contenant à la fois des données publiques et privées, le problème n’est pas seulement gouvernemental. Les entreprises privées (en particulier les géants technologiques) ont également de plus en plus accès à des données massives qui peuvent conduire à un équilibre de pouvoir sans précédent entre citoyen/consommateur et gouvernement/entreprise. Plus les gens en savent sur vous, plus un individu se retrouve dans une situation précaire.
Blacklisting
Les technologies Big Data permettent de détecter puis d’isoler les données frappantes générées numériquement, y compris les données associatives et corrélatives, les modèles de données et les données appariées par algorithme. Il est important de garder à l’esprit que tant l’association (lorsqu’il y a un modèle trop fort pour être purement fortuit) que la corrélation (qui est une forme d’association dans laquelle les relations d’une tendance linéaire sont mises à l’échelle en fonction de leur proximité) peuvent être à la fois fortes et faibles.
Nous appelons également ces données, qui se démarquent de l’analyse, des données suspectes.
Le fait de lier ces données suspectes à une série de conséquences pour l’individu, qu’elles soient le fait d’un gouvernement ou d’une entreprise privée, a évidemment un impact énorme. Après tout, les technologies Big Data peuvent créer un soupçon de culpabilité lorsqu’une personne est liée à des données numériques suspectes ou à des résultats de filtrage de bases de données. Cet individu se retrouve alors sur la ‘liste noire’ (blacklist).
Big data blacklisting est le processus par lequel les individus sont classés comme ‘coupables’ sur la base de données numériques suspectes et des résultats du filtrage des bases de données, jusqu’à ce que leur innocence ait été prouvée, les excluant ainsi de certains droits ou avantages.
Black Box Society
Le mécanisme qui conduit à l’inscription sur liste noire déplace implicitement la charge de la preuve vers ceux qui sont inscrits sur une liste noire numérique.
Un risque potentiel est le problème de ‘Black Box’ : dans une ‘Black Box Society’, on n’a souvent pas accès à toutes les preuves de la manière dont une personne s’est retrouvée sur la liste noire (en raison de l’impossibilité d’interroger les algorithmes et les bases de données).
De plus, il est faux de penser que big data analysis ne font que mettre en évidence des relations de cause à effet, alors qu’il ne s’agit en fait que de corrélation, qui peut aussi être forte ou faible. Le problème des corrélations est donc qu’elles ne sont pas toujours correctement interprétées, de sorte qu’elles sont souvent généralisées pour un groupe de population et ne s’appliquent donc pas à l’individu, avec pour conséquence que des individus sont inscrits à tort sur la liste noire.
Conclusion
Une décision qui est prise via les technologies Big Data doit craindre la transparence. Si la piège de ‘Black Box’ n’est pas évitée, une telle décision ne sera souvent pas conforme à la présomption d’innocence, qui est nécessaire au principe de liberté.
Pour en savoir plus sur Big Data Blacklisting, n’hésitez pas à nous contacter à l’adresse hallo@dejuristen.be ou à lire notre prochain blog dans cette série !
Rédigé par Emiel Koonen, Legal Adviser lesJuristes, et Kris Seyen, Partner lesJuristes
