L’intelligence artificielle et la technopolice

Définie comme « l’ensemble des théories et des techniques développant des programmes informatiques complexes capables de simuler certains traits de l’intelligence humaine (raisonnement, apprentissage) », l’intelligence artificielle englobe un ensemble de concepts et de technologies représentant un nouveau paradigme scientifique plus qu’une discipline autonome.

Au regard de sa polymorphie et de son évolution fulgurante ces dernières années, cette technologie peut se voir appliquée à un nombre incalculable de domaines tels que la finance, la médecine ou encore la sécurité. C’est ce dernier que nous allons évoquer dans cet article.

L’utilisation des nouvelles technologies à des fins sécuritaires n’est pas récente dans notre société et suscite déjà depuis quelques années des débats acharnés.

Le 4 mai 2012, le décret n°2012-652, relatif au traitement des antécédents judiciaires (ou décret TAJ), est adopté. Ses dispositions, présentes au sein du code de Procédure pénale, permettent à la police d’utiliser la reconnaissance faciale dans le but d’identifier les personnes renseignées dans le fichier TAJ. Selon un rapport parlementaire de la CNIL, ce fichier comportait en 2020 19 millions de fiches et 8 millions de photographies de visages. Ce décret permet donc entre autres à la police et à la gendarmerie d’utiliser des techniques de reconnaissance faciale pour comparer des images captées par des vidéos de surveillance au fichier TAJ.

Cette surveillance biométrique est jugée par certains comme “exceptionnellement invasive et deshumanisante, permettant un contrôle invisible et permanent de l’espace public. Créant alors une société du tout suspect, transformant les corps comme fonction de traceur et abolissant l’anonymat”. C’est à ce titre que l’association La Quadrature du Net, porte-étendard de la défense des droits et libertés sur Internet, a déposé en août 2020 un recours devant le Conseil d’État contre ces dispositions du code de procédure pénale qu’elle juge illégales.

Les interrogations vis-à-vis de cette utilisation de l’intelligence artificielle ont dépassé les frontières de la France, portant ce débat au niveau européen. En 2016, la directive européenne n°2016/680, et plus particulièrement son article 10, interdit aux Etats membres de l’Union européenne d’analyser des données biométriques à des fins policières sauf en cas de « nécessité absolue ». Cela implique que les policiers auront l’obligation de démontrer cette nécessité absolue, autrement dit de montrer qu’il n’y a aucun autre moyen de lutter contre une infraction. Or, La Quadrature du Net rappelle que si la reconnaissance faciale peut parfois être utile, elle n’est jamais indispensable.

Nouveau rebondissement dans la législation relative à l’utilisation de ces technologies : le 21 avril 2021, la Commission européenne a déposé un projet de règlement sur l’intelligence artificielle dans le but de proposer un cadre juridique digne de confiance pour ces technologies. Si, au premier abord, cette mesure semble bienvenue, des observateurs plus aguerris y voient une tentative d’abaisser le niveau de protection actuellement assuré par le droit européen et par la directive de 2016.

L’article 5 de ce projet a pour objectif de créer un cadre juridique spécifique à certains usages de l’intelligence artificielle, notamment les systèmes d’identification biométriques à distance « en temps réel ». Il peut sembler étrange de vouloir réglementer une chose déjà interdite par une directive communautaire adoptée cinq ans auparavant. En réalité, cet article ajoute une nouvelle exception qui élargit fortement les conditions d’utilisation de ces usages.

En 2016, seule la nécessité absolue pouvait expliquer l’utilisation d’un système de reconnaissance biométrique. Aujourd’hui, c’est un rapport de proportionnalité entre d’une part, les intérêts de la police à user de ces techniques, et d’autre part les dommages que cette surveillance pourrait « concrètement » causer aux populations surveillées, qui permet d’établir la justification, ou non, de l’utilisation d’une telle technique.

Ce changement de paradigme est tout à fait saisissant. Lorsque la nécessité absolue était en vigueur, la charge de la preuve reposait nécessairement sur la police, qui se devait de démontrer le caractère indispensable de l’utilisation de ces techniques. À l’avenir, lorsqu’un citoyen ou une association voudra contester le recours à l’analyse biométrique en temps réel par la police, il lui faudra démontrer les dommages concrets que cela cause à la population surveillée et il faudra que ces dommages soient plus importants que l’intérêt des forces de police. Cela amènera donc obligatoirement le juge à faire un contrôle de proportionnalité entre deux normes distinctes, toutes deux compréhensibles.

En d’autres termes, la survenance de ce nouveau règlement pose des questions juridiques mais également politiques. Ce n’est pas la première mesure sécuritaire (loi Avia, loi « sécurité globale », loi renseignement) visant à amoindrir des libertés fondamentales dans le but d’assurer une meilleure sécurité. Il convient alors de se demander si la pérennisation de normes similaires pourrait, à terme, mener à une société de surveillance globalisée.