Les technologies d'IA rendent les outils de surveillance plus puissants. Auparavant, ces systèmes étaient principalement utilisés pour observer le mouvement des gens. Désormais, ils offrent d'autres opportunités qui bénéficient aux entreprises, mais aussi aux gouvernements.
Les nouvelles technologies offrent une infinité de possibilités pour utiliser l'énorme quantité de données générées dans le monde. Mais dès lors qu'il est question de surveillance, les données peuvent contenir des informations personnelles sur les sujets concernés. Ainsi, malgré les avantages que la puissance de l'IA apporte dans ce domaine, la protection des données et le respect de la vie privée sont essentiels.
La surveillance et l'IA
La surveillance est l'action d'observer quelque chose ou quelqu'un dans le but de pouvoir le contrôler s'il ne se comporte pas normalement. Un système de surveillance est un ensemble de techniques et d'outils qui permettent de surveiller avec vigilance le comportement des personnes dans un espace. Par exemple, la surveillance médicale consiste à garder un œil sur un patient pour suivre l'évolution de son état de santé.
Le terme fait généralement penser à des caméras et à des personnes qui visionnent les images, des observateurs en quelque sorte. Ainsi, le plus souvent, les systèmes de surveillance servent à observer le mouvement des gens dans le but de repérer les personnes suspectes.
L'intelligence artificielle ou l'IA quant à elle est une branche de l'informatique qui vise à rendre les machines plus intelligentes. En d'autres termes, elle consiste à implémenter des algorithmes dans les systèmes informatiques pour leur permettre de traiter des informations complexes sans intervention humaine.
La surveillance figure parmi les nombreux cas d'utilisation de l'IA. Elle permet, entre autres, d'accroître leur efficacité. En plus d'une simple observation, l'intelligence artificielle permet de recueillir des informations importantes. Elle peut, par exemple, analyser les images pour identifier elle-même les personnes suspectes.
Les applications de l'IA dans le domaine de la surveillance
Un système de surveillance est souvent mis en place dans un espace très fréquenté. Mais un plus grand nombre de personnes à observer signifie plus de travail pour les observateurs. L'intelligence artificielle a la capacité de traiter de grandes quantités de données et d'agir de manière autonome. En d'autres termes, l'IA peut améliorer les systèmes de surveillance pour obtenir des résultats plus précis dans un plus court délai.
Les images et les vidéos constituent un élément clé de la surveillance. La branche de l'IA qui traite des données visuelles est la computer vision. Elle permet aux ordinateurs d'interpréter les informations contenues dans les images ou les vidéos. Ensuite, d'autres catégories ou sous-catégories d'IA comme le machine learning ou le deep learning peuvent tirer des conclusions à partir de ces données. Pour mieux comprendre, voyons plus en détail comment l'IA est utilisée par dans la surveillance.
Les systèmes de surveillance intelligents dans les entreprises
L'une des techniques d'IA les plus utilisées est la reconnaissance faciale. Elle consiste donc à analyser les images pour identifier une personne. Cela permet par exemple de savoir qui entre ou qui sort dans les locaux d'une entreprise. Ainsi, si une personne n'est pas autorisée à être présent, l'IA pourrait le signaler aux responsables.
D'autre part, les systèmes de surveillance et l'IA sont aussi combinés pour une analyse comportementale. En analysant les images, l'algorithme intelligent peut identifier les braqueurs ou les tireurs potentiels. Ce type de système peut être utilisé dans les magasins, les hôtels ou encore les banques.
De nouvelles opportunités
Les systèmes de surveillance alimentés par l'IA offrent d'autres avantages aux entreprises. Prenons comme exemple le cas de la gestion des espaces dans le contexte post-COVID. Dans un petit espace, un système de surveillance intelligent peut déterminer si le nombre de personnes présentes dépasse la norme, ou empêcher d'autres personnes d'entrer.
En outre, en plus de la surveillance proprement dite, ils contribuent à améliorer l'expérience des personnes qui fréquentent ces espaces. Dans une boutique de vente, les commerçants peuvent améliorer le système pour améliorer l'expérience d'achat des consommateurs. Les magasins Amazon Go utilisent par exemple les caméras de surveillance pour détecter et enregistrer automatiquement les achats, sans aucune intervention.
La surveillance par l'IA au service des autorités et des gouvernements
Dans de nombreux pays dans le monde, les gouvernements investissent dans les technologies d'IA pour la surveillance. La Chine est l'un des fournisseurs majeurs avec une présence dans plus de 60 pays. Mais d'autres pays comme les États-Unis, le Japon, l'Allemagne et la France sont également des acteurs dans le secteur.
Par ailleurs, les autorités fédérales et les forces de l'ordre utilisent la technologie pour la sécurité publique. Ainsi, en se servant des caméras placées partout dans les villes, ils peuvent, entre autres, garder un œil sur les habitants. Les systèmes de surveillance s'appuient principalement sur l'IA pour l'identification des criminels présumés ou pour contrôler les mauvais comportements.
Un autre cas d'utilisation de l'IA à grande échelle est le contrôle des frontières. À ces différentes fins, les gouvernements et la police utilisent les mêmes techniques d'IA pour la surveillance. Nous parlons notamment de la reconnaissance faciale, de l'analyse comportementale et aussi d'autres types d'analyses avancées.
La défense et l'armée
La politique de défense implique aussi une stratégie de surveillance pour laquelle l'IA a son rôle à jouer. En plus de la surveillance des frontières, la technologie trouve aussi une application dans les zones de guerre. Dans ce cas, les images proviennent généralement de drones ou d'autres dispositifs comme les chars. Ces appareils sont donc équipés de caméras longue distance et parfois des radars de vision nocturne. Outre l'analyse des images, le rôle de l'IA consiste aussi à permettre aux drones ou aux chars de naviguer de manière autonome.
L'utilisation de l'IA pour la surveillance est-elle correcte ?
Il va sans dire que l'IA améliore considérablement la capacité de surveillance, que ce soit dans les entreprises ou dans les villes. Mais lorsqu'il est question d'une surveillance à grande échelle, nous pensons inévitablement à une surveillance de masse. Autrement dit, si la surveillance par l'IA prétend agir pour la sécurité, elle remet en cause le respect de la vie privée.
Selon l'indice AIGS (Artificial Intelligence Global Surveillance), plus de 75 sur 176 pays dans le monde utilisent des systèmes de surveillance basés sur l'IA. Toutefois, le cadre de réglementation de la technologie est différent pour chaque État.
Certains pays comme l'Arabie saoudite, la Chine et la Russie l'exploitent ouvertement à des fins de surveillance de masse. Aux États-Unis, la loi varie en fonction des différents États. En Europe, il existe différentes initiatives pour contrôler l'utilisation de l'IA et qui peuvent s'appliquer au domaine de la surveillance.
Les menaces d'une surveillance de masse
Le droit international autorise à surveiller des personnes uniquement lorsqu'il s'agit d'une surveillance ciblée et strictement nécessaire. En d'autres termes, si les autorités soupçonnent une personne d'un acte illégal, avec des preuves à l'appui, elles peuvent avoir recours à une surveillance par l'IA.
Cependant, la police et les agents fédéraux utilisent généralement des images obtenues par des caméras placées dans les espaces publics. Cela signifie qu'ils surveillent l'intégralité de la population en permanence. Pour faire court, la surveillance de masse est une atteinte à l'un des droits fondamentaux de l'homme : le respect de la vie privée.
Les biais algorithmiques
D'autre part, il arrive que les algorithmes de reconnaissance faciale soient associés à des questions de biais et de discrimination. La surveillance alimentée par l'IA est aussi utilisée dans la lutte antiterroriste. Là encore, la reconnaissance faciale permet aux services concernés d'identifier les terroristes présumés.
Dans cet objectif, les autorités établissent le profil des criminels potentiels pour former les modèles d'IA et les entraîner à les identifier. Les résultats obtenus par les solutions d'IA sont le reflet des données qui, à leur tour, reflètent les humains. Mais les humains ont inéluctablement un jugement biaisé.
Par conséquent, un système de surveillance basé sur l'IA pourrait désigner par erreur une personne comme suspecte à cause de son origine ethnique ou de sa couleur de peau. Bien que l'analyse comportementale puisse prêter main forte, il est rare que les algorithmes soient totalement précis.
Ainsi, la menace la plus importante est que des personnes innocentes pourraient faire l'objet d'une enquête, voire même d'une arrestation par erreur.
Comment se protéger de la surveillance par l'IA ?
En termes simples, la surveillance par l'IA menace la vie privée. Pour empêcher ce désagrément, des mesures sont ou doivent être prises par différentes parties. D'une part, les législateurs ont la responsabilité d'établir un cadre pour réglementer l'utilisation de ces technologies. D'autre part, les entreprises fournisseurs de ces services doivent garantir la protection des données pour ne pas porter préjudice aux personnes concernées.
Législation
L'Union européenne a mis en place différents cadres de réglementation pour les nouvelles technologies. Tout d'abord, le règlement général sur la protection des données (RGPD) vise à protéger les données et la vie privée. Ensuite, en avril 2021, l'UE a présenté l'AI Act qui est un projet de loi sur la réglementation de l'intelligence artificielle. Mais il s'agit là de deux cadres généralisés, autrement dit ceux qui ne ciblent pas de domaines spécifiques.
Dès lors, plusieurs recommandations ont été proposées par différents organismes et institutions législatives. Par exemple, les Comité et Contrôleur européens de la protection des données (EDPB et EDPS) ont suggéré l'interdiction de la reconnaissance faciale dans les espaces publics.
En octobre dernier, le Parlement européen a voté pour interdire l'utilisation de l'identification biométrique basée sur l'IA à des fins de surveillance de masse. Et plus récemment, le Sénat a suggéré la création d'un cadre législatif spécifique pour la reconnaissance faciale.
Une technologie transparente et explicable
Selon les différentes recommandations, les entreprises et les organismes fédéraux qui adoptent les technologies de surveillance par l'IA devraient prendre en compte quelques points.
Le premier d'entre eux est la transparence. Entre autres, les entreprises ou organisations qui utilisent les données doivent informer les personnes concernées de la manière dont elles sont utilisées et divulguées.
Ensuite, conformément au RGPD, l'IA utilisée dans ces systèmes doit prendre en compte l'explicabilité. Autrement dit, la « boîte noire » de l'IA dans laquelle les utilisateurs ne savent pas comment le système prend une décision est à exclure. De ce fait, il est important que chaque résultat puisse être justifié.
Enfin, les projets d'IA et de surveillance doivent passer par un processus d'évaluation des risques. Cela permet d'anticiper les biais algorithmiques et de concevoir des solutions neutres et inclusives.
- Partager l'article :
Bonjour
Il ne s’agit pas de commentaire sur ce livre blanc « L’IA dans la surveillance : une atteinte à la vie privée ? » mais une demande de rentrer en contact avec le rédacteur de ce livre blanc comme je l’ai déjà fait
Merci d’avance