Les «nièces virtuelles» de Marine Le Pen sur TikTok ont été supprimés

Un monde de tech

Depuis quelques semaines, les utilisateurs de TikTok pouvaient visionner des vidéos publiées par les « nièces » virtuelles de Marine Le Pen ou de Marion Maréchal. Ces clips entièrement générés par intelligence artificielle qui ont fait la promo des groupes d’extrême droite du Rassemblement national et de Reconquête ! en lice pour les prochaines élections européennes ont vu leur compte fermés ce lundi.

Ces vidéos virales réalisées à grand coup de logiciels d’hyper-trucage que nous offrent aujourd’hui les IA ont été vues plusieurs dizaines de milliers de fois et pour certains de ces clips, plus de deux millions de fois. Ces épisodes « deepfakes » mettaient en scène trois jeunes femmes prénommées Amandine, Chloé ou encore Léna. Toutes affirmaient avoir un lien de parenté avec la famille Le Pen dans ces courtes vidéos confondantes de réalisme.

Les clips intégreraient notamment une avalanche de photos sexy, connues pour être très appréciées par les algorithmes de recommandation de TikTok et d’Instagram. Les avatars fictifs de la famille des « Le Pen » dansaient sur un fond de musique tendance et s’habillaient en conséquence pour appâter le chaland. Les influenceuses virtuelles intégraient aussi une bonne dose d’extrême droite dans leurs messages au travers de panneaux visuels explicits qui affichaient leur fierté d’être une « Le Pen ». Le clone IA « Amandine Le Pen » s’agaçait, par exemple, que « quand tu te balades à Paris, tu vois plus de voiles que de baguettes de pain ». Tous leurs messages étaient du même acabit prêchant en faveur du Rassemblement national et de Reconquête ! avec une référence systématique aux européennes de 2024.

Des clips republiés en masse sur les réseaux sociaux

Et viralité oblige, ces vidéos truquées se sont répandues sur l’ensemble de réseaux sociaux. En revanche, ces comptes TikTok ont fini par ulcérer la famille Le Pen qui a précisé ne pas être ni à l’origine ni « très heureuse » de cette initiative. Plusieurs signalements ont été effectués par le parti Reconquête ! Et le président du Rassemblement national, Jordan Bardella, a appelé à une « régulation » de ces hyper-trucages, les qualifiant de nuisibles à la démocratie en période électorale.

Cette régulation existe déjà depuis plus d’un mois, rappelle Bruxelles qui exige des géants du numérique de modérer puis de supprimer immédiatement, tous les hyper-trucages qui seraient susceptibles d’influencer le scrutin des élections européennes du 9 juin prochain. En France, le texte de loi sur la sécurisation de l'espace numérique prévoit jusqu'à deux ans de prison et 45 000 euros d'amende pour la création d'un deepfake mettant en scène une personne sans son consentement. Si la vidéo est à caractère sexuel, les peines augmentent à trois ans d'emprisonnement et 75 000 euros d'amende.

TikTok ferme les comptes des « nièces » IA des « Le Pen »

Le jour même du lancement officiel de la campagne des élections européennes, la plateforme chinoise, déjà en conflit avec Bruxelles pour infraction à la législation de l’UE sur les services numériques, a décidé de faire un grand ménage in extremis des infox par IA liées aux élections européennes qui pullulent sur son réseau social. En revanche, le propriétaire du compte qui reprenait le visage de Marion Maréchal s’est défendu par voie de presse de tout message à caractère politique : « Voyez cela comme une expérience sociale pour démontrer les dangers de la désinformation et des deepfakes », a affirmé l’un des auteurs de ces hyper-trucages, qui s’exprimait sous couvert d’anonymat.