La CNCDH tire à boulets rouges sur la vidéosurveillance par IA des JO

Un monde de tech

La Commission nationale consultative des droits de l’homme émet de sérieuses critiques au sujet de l’expérimentation de la vidéosurveillance par algorithme qui sera déployée pendant les JO de Paris.

La CNCDH qui a pour fonction de conseiller le gouvernement français sur les droits de l’homme, tire à boulets rouges sur la vidéosurveillance par IA développée pour les JO de Paris. La Commission estime que les pouvoirs publics doivent rétablir « l’équilibre rompu », « entre les atteintes aux droits et libertés fondamentaux et la sauvegarde de l’ordre public ». Il en va de « notre choix de société », s’alarme l’institution, dans son avis qui a été publié au Journal Officiel ce mardi et sur son site Web.

La vidéosurveillance pilotée par IA, mode d’emploi

Ces programmes d’intelligence artificielle ont été conçus à l’origine pour analyser des images capturées par toutes les caméras urbaines en France. Comment ça fonctionne ! Le traitement informatique des vidéos est réalisé en temps réel, sans recourir aux technologies de reconnaissance faciale dans le cadre des JO, précisait le ministère de l’Intérieur. Le système permet d’identifier automatiquement des « événements » qualifiés par le programme d’anormaux et de suivre des individus en particulier qui seraient susceptibles de troubler l’ordre public. Les caméras de surveillance sont capables ainsi de scanner et d’enregistrer, temporairement, les déplacements et les comportements de toutes les personnes se trouvant dans leur rayon d’action.

La vidéosurveillance par IA sera expérimentée jusqu’en mars 2025

Selon la loi relative aux JO de Paris de mai 2023, l’expérience pourrait être étendue à d’autres événements, si elle donne satisfaction. C’est bien ce qui inquiète la Commission nationale consultative des droits de l’homme qui remarque que « l’implication inédite des acteurs privés » dans une mission régalienne est déjà une première étape vers « une remise en cause des droits et libertés fondamentaux », et principalement « la liberté de manifester, dans l’espace public de manière anonyme ».

La Commission rappelle également que le problème récurrent des outils algorithmiques développés par des firmes privées est qu’ils sont entraînés en majorité sur des images dans lesquelles les hommes blancs sont surreprésentés. Ces « logiciels commettent plus d’erreurs pour l’identification de personnes d’ascendance africaine, et plus encore lorsqu’il s’agit de femmes » en déclenchant des alertes non fondées. Autre problème, la législation française prévoit que les logiciels couplés aux caméras de surveillance « demeurent en permanence sous le contrôle » d’un agent humain, mais qui, faute de temps et de moyens, se retrouvera plutôt en position d’exécutant, dès que la machine lancera une alerte. « Ce qui se joue en définitive, c’est un choix de société », conclut-elle. Soit les décideurs politiques estiment qu’il faut « assurer la primauté de la liberté, des corps et des esprits dans l’espace public » ou au contraire décident de brider les libertés fondamentales des citoyens par une surveillance généralisée et automatisée.

Un sujet qui est loin d’être anecdotique quand on constate comment sont utilisées ces technologies de surveillance lorsqu’elles tombent entre les mains de dirigeants dits autoritaires, dans des pays qui ne le sont pas moins.