Quand l’intelligence artificielle, l’éthique et les droits de l’homme se rejoignent

01 décembre 2020 | AI, dJ Talks, Technologie de l'information

L’intelligence artificielle devient de plus en plus influente. Cela apporte beaucoup d’avantages, mais peut aussi avoir une influence négative sur notre société, les normes et valeurs éthiques et les droits de l’homme. L’intelligence artificielle s’empare-t-elle du pouvoir des gens au détriment des droits de l’homme ? Devrait-il y avoir de nouveaux droits de l’homme ?

La peur de l’intelligence artificielle

À mesure que l’IA devient de plus en plus autonome, nous devrons renoncer à son contrôle dans une mesure toujours plus grande. Cela crée logiquement un sentiment d’anxiété.

Le développement d’IA ouvre la porte à d’importantes questions relatives aux droits de l’homme. Par exemple, les forces de police peuvent utiliser des systèmes « prédictifs » qui incorporent de grandes quantités de données sur l’activité criminelle et la démographie pour créer des cartes indiquant où et par qui les crimes sont le plus souvent commis. Est-ce là ce que nous voulons ?

Les techniques d’intelligence artificielle, qui visent intrinsèquement à faire la distinction entre (groupes d’) individus, menacent de donner lieu à des formes de discrimination algorithmique qui violent nos droits à l’égalité.

De plus, en raison de l’opacité et de la complexité des algorithmes, il n’est pas souvent évident de savoir s’il y a une violation des droits de l’homme. Amazon, par exemple, n’a découvert qu’après un certain temps que son algorithme de recrutement était systématiquement discriminatoire à l’égard des femmes, car il était formé sur des données sous-jacentes provenant principalement d’hommes.

Ces applications ne devraient-elles pas être développées de manière à accroître l’efficacité et la transparence, tout en protégeant les droits de l’homme ? Les entreprises peuvent déjà faire un certain nombre de choses pour protéger les droits de l’homme, comme par exemple établir des normes pour garantir que l’apprentissage automatique fonctionne de manière équitable et non discriminatoire, élaborer des codes de conduite internes et introduire des modèles de rémunération pour les comportements qui contribuent au respect des droits de l’homme…

Il est encore plus important d’établir des règles sectorielles claires, par exemple en imposant quelles données peuvent être introduites dans le système.

Nouvelles propositions sur les droits de l’homme

Des propositions de nouveaux droits de l’homme apparaissent. Par exemple, le droit à l’anonymat en ligne doit être reconnu comme un droit indépendant ou comme un droit clarifié, lié aux droits existants en matière de vie privée. Les gens devraient avoir le droit de ne pas être patrouillés ou influencés secrètement, et de pouvoir échapper à l’analyse continue effectuée dans le cadre de l’Internet des objets. De cette manière, les gens peuvent décider eux-mêmes s’ils veulent ou non participer à des expériences ou à d’autres activités, dans lesquelles la vie des gens est enregistrée ou observée d’une autre manière, et le comportement est influencé par les moyens technologiques.

À cet égard, le droit aux contacts humains est également intéressant. La pandémie COVID-19 montre clairement que le contact humain est l’un des aspects fondamentaux des soins humains, et elle estime que le remplacement de l’intervention humaine par des robots pourrait déshumaniser les pratiques de soins. Qu’il s’agisse de s’occuper de personnes âgées ou d’élever des enfants, les robots ne doivent pas remplacer les relations humaines. Seulement les améliorer.

Si vous avez des questions à ce sujet, vous pouvez toujours nous contacter via hallo@dejuristen.be.

Rédigé par Paulien Vandenborre, stagiaire lesJuristes, et Kris Seyen, associé lesJuristes.

Nos services

Technologie de l’information

Propriété intellectuelle

Vie privée

e-Compliance