En effet, c’est le pays où la reconnaissance faciale est utilisée pour rationner le papier hygiénique, pour identifier et dénoncer les piétons indisciplinés, et enfin pour équiper la police avec des lunettes leur permettant d’identifier des suspects.
Cependant, cette tendance ne concerne pas seulement la Chine. Selon un rapport du Carnegie Endowment for International Peace, l’utilisation des technologies de surveillance par Intelligence Artificielle se répand plus rapidement, et dans un plus grand nombre de pays, que préalablement anticipé par les experts.
Le rapport a révélé qu’au moins 75 pays sur 176 dans le monde utilisent activement les technologies d’Intelligence Artificielle à des fins de surveillance, notamment les plateformes de type Smart City/Safe City, actuellement utilisées par 56 pays; des systèmes de reconnaissance faciale, utilisés par 64 pays; et une police intelligente, désormais déployée par les forces de l’ordre dans 52 pays.
L’auteur du rapport, Steven Feldstein, a confié à AP qu’il était surpris par le nombre de gouvernements démocratiques en Europe et ailleurs, à savoir un peu plus de la moitié, mettant en place une surveillance par Intelligence Artificielle, telle que la reconnaissance faciale, les contrôles automatisés aux frontières et les outils algorithmiques permettant de prédire quand des crimes pourraient se produire :
Je pensais que cela concernerait surtout les pays du Golfe ou la zone entourant de la Chine.
Le rapport ne fait pas la distinction entre les utilisations licites de la surveillance par IA, celles qui violent les droits de l’homme, ou bien celles qui tombent dans ce que Feldstein appelle la “zone intermédiaire obscure”.
Les technologies de type Smart City illustrent à quel point les choses peuvent devenir obscures. À Quayside, la ville intelligente qui se développe sur le front de mer à l’est de Toronto, les bonnes intentions se présentent sous la forme de capteurs destinés à servir le public, et qui sont conçus pour “tout révolutionner”, que ce soit le trafic routier, la santé, le logement, la réglementation en matière de zonage, jusqu’aux émissions de gaz à effet de serre et bien plus encore. Mais Quayside est également considérée comme une dystopie de la vie privée en pleine gestation.
Le but de la recherche est de montrer en quoi les nouvelles technologies de surveillance transforment la manière dont les gouvernements nous surveillent et nous suivent. Il aborde les questions suivantes …
- Quels pays adoptent la technologie de surveillance par Intelligence Artificielle ?
- Quels types spécifiques de surveillance par Intelligence Artificielle les gouvernements déploient-ils ?
- Quels pays et entreprises fournissent cette technologie ?
Carnegie Endowment for International Peace nous présente les réponses par le biais de la toute première compilation de telles données, qu’elle appelle l’index AIGS (AI Global Surveillance) : un “aperçu, pays par pays, de la surveillance par des technologies à base d’IA”, principalement basé sur les données extraites entre 2017 et 2019. Voici l’index complet.
Quelques points marquants :
La Chine n’utilise pas seulement beaucoup de surveillance par IA. C’est aussi un grand exportateur de technologies. La recherche a révélé que des entreprises chinoises, en particulier Huawei, Hikvision, Dahua et ZTE, fournissaient des technologies de surveillance par Intelligence Artificielle à 63 pays. Huawei fournit à lui seul les technologies de surveillance par IA à au moins 50 pays dans le monde. “Aucune autre entreprise ne peut la concurrencer”, indique le rapport. Le deuxième fournisseur majeur non chinois est le japonais NEC, qui fournit des technologies de surveillance par IA à 14 pays.
Les fournisseurs chinois tentent souvent de rendre leurs produits plus attractifs avec des offres de prêts à taux réduit pour encourager les gouvernements à acheter. Cette technique fonctionne particulièrement bien dans les pays dotés d’infrastructures technologiques sous-développées, comme le Kenya, le Laos, la Mongolie, l’Ouganda et l’Ouzbékistan, qui ne pourraient probablement pas obtenir la technologie autrement. D’après le rapport :
Cette pratique commerciale soulève de troublantes questions concernant le potentiel subventionnement par le gouvernement chinois de l’achat de technologies répressives avancées.
Les entreprises américaines sont également actives au niveau des exportations mondiales. 32 pays possèdent les technologies de surveillance par IA américaines. Les principaux exportateurs sont IBM, qui vend dans 11 pays; Palantir, vendant dans 9; et Cisco, vendant dans 6.
D’autres entreprises basées dans des démocraties libérales propagent ces technologies. La France, l’Allemagne, Israël et le Japon ne prennent pas les mesures nécessaires pour surveiller et contrôler la propagation de ces technologies sophistiquées liées à un ensemble de violations, a révélé le rapport.
Les démocraties libérales sont d’importantes utilisatrices de la surveillance par IA. L’AIGS montre que 51% des démocraties avancées utilisent des systèmes de surveillance par Intelligence Artificielle. En revanche, 37% des États autocratiques fermés, 41% des États électoraux autocratiques/Etats autocratiques compétitifs et 41% des démocraties électorales/ démocraties non libérales utilisaient la technologie de surveillance par IA. Les gouvernements dans les véritables démocraties déploient toute une gamme de technologies de surveillance, allant des plateformes Safe City (ville sécurisée) aux caméras de reconnaissance faciale, a révélé l’étude. Cela ne signifie pas qu’ils abusent de ces systèmes : l’utilisation ou non, par les gouvernements, de ces technologies à “des fins répressives” dépend de “la qualité de leur gouvernance”.
Par exemple :
Existe-t-il un schéma de violation des droits de l’homme ? Existe-t-il de solides traditions en matière de droit et des institutions indépendantes responsables ? Cela devrait pouvoir rassurer les citoyens résidant dans ces États démocratiques.
Cela ne signifie pas pour autant que les démocraties “avancées” n’arrivent pas à concilier les intérêts en matière de sécurité et la protection des libertés civiles. L’étude cite quelques exemples de perte de libertés civiles dans des démocraties telles que les États-Unis et la France :
- Une enquête menée en 2016 a révélé que la police de Baltimore avait secrètement déployé des drones aériens pour surveiller quotidiennement les habitants de la ville. Les photos ont été prises chaque seconde au cours de vols de 10 heures. La police de Baltimore a également déployé des caméras de reconnaissance faciale pour surveiller et arrêter les manifestants, en particulier lors des émeutes qui ont eu lieu dans la ville en 2018.
- De nombreuses entreprises fournissent des équipements de surveillance avancés destinés à être utilisés à la frontière américano-mexicaine, y compris des dizaines de tours basées en Arizona, afin de repérer des personnes à une distance de 12 km, comme l’a signalé The Guardian en juin 2018. D’autres tours utilisent des caméras dotées de laser, un radar et un système de communication qui effectue des balayages dans un rayon de 3 km pour détecter des mouvements. Les images capturées sont analysées avec l’IA pour repérer des humains parmi la faune, la flore et d’autres objets en mouvement. On ignore si ces utilisations de la surveillance sont légales ou nécessaires.
- En France, la ville portuaire de Marseille gère le projet Big Data of Public Tranquility : un programme visant à réduire la criminalité via un vaste réseau de surveillance public comprenant un centre opérationnel de renseignement et près de 1 000 caméras de télévision intelligentes (CCTV) en circuit fermé, nombre qui va doubler d’ici 2020.
- En 2017, Huawei a “offert” un système de surveillance vitrine à la ville de Valenciennes, dans le nord de la France, afin de montrer ce qu’est un modèle de “Safe City”. Il comprenait une surveillance CCTV haute définition avancée et un centre de commande intelligent alimenté par des algorithmes permettant de détecter les mouvements inhabituels et la formation de foules.
Les gouvernements autocratiques et semi-autocratiques sont plus enclins à abuser de ces technologies, notamment en Chine, en Russie et en Arabie saoudite. D’autres gouvernements qui ont “un bilan lamentable en matière de respect des droits de l’homme” exploitent également la surveillance par IA pour exercer une répression de manière plus limitée, mais tous les gouvernements risquent d’exploiter illégalement cette technologie “pour atteindre certains objectifs politiques”.
Les dépenses militaires sont fortement corrélées aux dépenses de surveillance par Intelligence Artificielle. Quarante des 50 principaux pays qui dépensent le plus dans le monde utilisent également la technologie de surveillance par IA.
Ces pays comprennent de véritables démocraties, des régimes dictatoriaux et tout ce qui se situe entre les deux : des pays plus riches comme la France, l’Allemagne, le Japon, la Corée du Sud, aux États plus pauvres comme le Pakistan et Oman. Selon Feldstein, ce n’est pas surprenant :
Si un pays prend sa sécurité au sérieux et est disposé à investir des ressources considérables dans le maintien de ces capacités solides en matière de sécurité militaire, il ne devrait pas être étonnant que ce pays recherche les derniers outils utilisant l’IA.
Les raisons pour lesquelles les démocraties européennes adoptent la surveillance par IA (contrôler la migration, traquer les menaces terroristes) peuvent différer des intérêts de l’Egypte ou du Kazakhstan (limiter les dissensions internes, réprimer les mouvements activistes avant qu’ils n’atteignent une masse critique), mais les instruments sont remarquablement similaires.
La surveillance de l’État n’est pas intrinsèquement illégale
Le rapport souligne que la surveillance n’est correspond pas nécessairement à une volonté des gouvernements de réprimer leurs citoyens. Il peut jouer un rôle vital dans la prévention du terrorisme, par exemple, et permettre aux autorités de surveiller d’autres menaces.
Mais la technologie a également ouvert la voie à de nouvelles méthodes de surveillance, entraînant ainsi la prolifération de données transactionnelles, c’est-à-dire les métadonnées, qu’il s’agisse de courriers électroniques, de l’identification de lieux, du suivi sur le web ou d’autres activités en ligne.
Le rapport cite l’ancien rapporteur spécial de l’ONU, Frank La Rue, concernant un rapport de surveillance de 2013 :
Les données de communication sont stockables, accessibles et interrogeables, et leur divulgation et leur utilisation par les autorités de l’État ne sont généralement pas réglementées. L’analyse de ces données peut être à la fois hautement révélatrice et invasive, en particulier lorsque les données sont combinées et agrégées.
De ce fait, les États s’appuient de plus en plus sur les données de communication pour appuyer les enquêtes de maintien de l’ordre ou de sécurité nationale. Les États exigent également la préservation et la conservation des données de communication pour leur permettre de réaliser un historique de surveillance.
Feldstein affirme qu’il va sans dire que de telles intrusions “affectent profondément le droit à la vie privée des individus, à savoir celui de ne pas être soumis à ce que le Haut-Commissariat des Nations Unies aux Droits de l’Homme (HCDH) a appelé ‘une ingérence arbitraire ou illégale dans la vie privée, la famille, le domicile ou la correspondance’ [et]… peuvent également porter atteinte au droit d’un individu à la liberté d’association et d’expression”.
Billet inspiré de Report: Use of AI surveillance is growing around the world, sur Sophos nakedsecurity.
