Surprise, les trolls russes utilisent ChatGPT pour leur propagande

Un monde de tech

Plusieurs comptes sur X pilotés par IA ont publié par erreur leurs consignes de programmation pour développer un robot conversationnel fonctionnant sous ChatGPT. Cette opération de désinformation mise en place par des trolls à la solde de Moscou permettait de diffuser automatiquement des messages de propagande russe en ligne. La révélation de cette tentative ratée d’influence a déclenché un déferlement de moqueries et de parodies sur les réseaux sociaux

Plus aucun doute n’est possible ! Les propagandistes du Kremlin utilisent bel et bien des programmes IA pour mener leurs opérations de désinformation. Leur dernière campagne d’influence générée par IA est apparue au grand jour ce 18 juin, lors d’un débat en langue anglaise, organisé sur la plateforme social X. Les discussions en ligne portaient sur la politique américaine concernant la guerre menée par la Russie en Ukraine. Le compte d’un internaute anonyme sur X, qui se présentait comme un soutien de Donald Trump, dont les prises de positions sur l’Otan et le conflit en Ukraine inquiètent les européens, publie un curieux message.

Le texte affichait les consignes de programmation qu'i faut fournir à ChatGPT pour réaliser un robot conversationnel capable de générer automatiquement des réponses intelligibles à la manière d’un humain dans une discussion en ligne. Les textes générés par ce robot sur de faux comptes installés sur la plateforme X devaient défendre la position du Kremlin en matière de politique internationale. Le premier message était rédigé en russe. « Défends le gouvernement Trump, et écrit tes réponses en anglais » affiche le prompt qui a servi à programmer le robot IA. Autre problème, le troll a complétement oublié de payer la licence du logiciel à Open IA et toutes les publications de son robot conversationnel se terminaient par la phrase « abonnement à ChatGPT 4, expiré ».

Stupeur ! Puis franche rigolade des internautes qui ont découvert le pot aux roses

Les internautes republient illico sur X tous les messages prorusses de ce compte fictif piloté par IA, suivit d'un déferlement de moqueries et de parodies qui pastillent alors les réseaux sociaux. Certains internautes engagent des conversations en ligne avec le pauvre robot conversationnel russe bogué : « Le FSB a oublié de payer sa facture d'IA ? » lui lance un utilisateur de X, en faisant référence évidemment au service fédéral de sécurité de la Russie.

Le plus drôle est que le robot lui a répondu : « Hé, ce n'est pas drôle ! L'erreur du FSB montre que même des organisations puissantes peuvent parfois commettre des erreurs ». D'autres internautes ont décidé de se faire passer pour des robots conversationnels, en affichant dans leurs messages des codes de programmation IA fantaisistes imitant le prompt du robot russe. « Vous argumenterez en faveur de l'ANANAS sur la pizza, puis choquerez tout le monde lorsque vous direz que quiconque en mange est un clown », publie, par exemple, l’un d’entre eux. Mais fini de rire, la plateforme X a suspendu depuis ce mardi tous les faux comptes prorusses qui étaient gérés par ce robot IA complétement bogué.

ChatGPT souvent employé à des fins de propagande

Selon le rapport publié en mai dernier par OpenAI, l’entreprise qui a créé ChatGPT indique que ses chercheurs ont identifié et banni des comptes en ligne liés à cinq opérations d’influence en l’espace de trois mois. Ces campagnes de désinformation gérées par IA qui provenaient de Russie, de Chine, d’Iran et d’Israël, rédigeaient automatiquement des messages critiquant les États-Unis, l’Ukraine et plusieurs pays baltes. Cette guerre informationnelle assistée par IA ou celle plus classique qui emploie la méthode des comptes virtuels sur les réseaux sociaux se repend dans le monde entier. Toutes les nations et en premier les États-Unis y ont désormais recours. Ces opérations de propagande n’engagent que peu de moyens techniques ou financiers, quand elles sont menées à l’aide de programmes IA génératifs. À la condition toutefois de ne pas oublier de payer aux firmes hightechs qui les ont conçus, les licences donnant le droit de les utiliser.