Les élections européennes sous la menace des «deepfakes»

Un monde de tech

Alors que les élections européennes approchent à grand pas, Bruxelles s’inquiète de l’impact sur la campagne électorale en cours, des sons, photos et vidéos truqués qui ont été réalisés à l’aide des programmes d'intelligence artificielle (IA) générative.

La Commission européenne réclamait depuis un mois des explications à huit grands services en ligne, dont TikTok, Facebook, Google, YouTube et X (ex-Twitter), sur la façon dont ces géants du numérique comptaient gérer les risques liés à la diffusion des contenus manipulés en période électorale. L’Union européenne leur demandait de modérer, puis de supprimer immédiatement tous les « deepfakes » (ou hyper-trucages en français) qui seraient susceptibles d’influencer le scrutin des élections européennes de juin prochain.

La Commission a exigé, par ailleurs, des firmes de la high-tech d’étiqueter comme étant des trucages tous les contenus en rapport ou non avec les élections qui sont générés par les programmes IA génératifs, qu’il s’agisse de textes, de sons, de vidéos ou encore de photos manipulés.

Les très grandes plateformes en ligne et les moteurs de recherche comptant plus de 45 millions d’utilisateurs actifs dans l’Union européenne avaient jusqu’à ce vendredi 5 avril pour mettre en place leurs dispositifs spéciaux, afin de protéger les électeurs européens contre toute forme de désinformation en ligne. Elles se sont toutes conformées aux exigences de la Commission européenne.

Les publicités électorales en ligne mensongères sont interdites

Cette mesure s'applique à toutes les pubs réalisées avec ou sans trucages IA qui seraient susceptibles de décourager les européens d’aller voter, ou celles remettant en cause la validité de l’élection et ses résultats. La propagation des infox ou des « deepfakes » qui influenceraient le vote des électeurs sur les grandes plateformes numériques semble désormais bien encadrée.

En revanche, rien de tel sur les réseaux clandestins ou sur les messageries cryptées, estime Xavier Duros, expert en cybersécurité chez Check Point Software, qui constate une forte augmentation de programmes IA piratés pour générer des « deepfakes » sur le darknet ou sur Telegram : « C’est important de bien comprendre la définition d’un deepfake généré par IA. Ces hyper-trucages consistent à réutiliser du contenu qui est complètement légitime, comme une vidéo en ligne, ou de télécharger la voix d'une personne sur internet et de la transformer pour passer un message mensonger en vidéo ou en audio sur le Web. Les programmes de l’intelligence artificielle dite générative offrent aujourd'hui des capacités de trucages extrêmement performantes avec des outils en ligne qui sont très simples à utiliser par le grand public. »

Des logiciels IA de trucages sur le darkweb

Xavier Duros précise : « Les logiciels grands publics des IA génératives sont également employés par des personnes malveillantes, qui s’en servent alors pour publier en masse de la désinformation sur les réseaux sociaux. Les deepfakes représentant un réel danger d’influencer le scrutin des élections européennes, l’UE a mis en place une surveillance globale pour parer cette menace. Par ailleurs, chaque État de l’Union européenne surveille ce qui se passe au niveau des places de marchés obscures de la cybercriminalité et les différents réseaux souterrains du darkweb, ou encore sur les messageries cryptées de type Telegram. »

Des programmes IA piratés entre les mains des cybercriminels

Et l’expert en cybersécurité chez Check Point Software de conclure : « Le problème est que les groupes ''d'Hactivistes'' ou de pirates informatiques disposent de moyens technologiques et financiers tout aussi importants que les entreprises qui ont créé les IA génératives. On le constate avec une profusion de ces programmes IA débridés qui circulent sur le darkweb. Par ailleurs, les groupes malveillants utilisant des IA génératives bénéficient du soutien de certains pays qui seraient hostiles à l’UE en leur offrant des moyens techniques et financiers supplémentaires pour publier en masse des deepfakes en période électorale. »

Europol alerte sur la profusion des « deepfakes » en période d’élection

Dans un rapport rendu public, l'Office européen de police tire le signal d’alarme. Les forces de l'ordre des pays de l’UE sont invitées à considérer comme une priorité absolue la lutte contre l'utilisation malveillante des technologies d’hyper-trucage par IA. Europol précise que les cybercriminels utilisent désormais les deepfakes à la fois pour manipuler l'information auprès du grand public, mais également pour rançonner des entreprises.