'Aims' : le logiciel en location qui peut contrôler 30 000 faux profils en ligne

Exclusif : l'unité de désinformation de l'équipe Jorge contrôle une vaste armée d'avatars avec de faux profils sur Twitter, Facebook, Gmail, Instagram, Amazon et Airbnb

À première vue, l'utilisateur de Twitter "Canaelan" a l'air assez ordinaire. Il a tweeté sur tout, du basket-ball à Taylor Swift, du club de football de Tottenham Hotspur au prix d'un KitKat. Le profil montre un homme blond à l'air amical avec une barbe courte et des lunettes qui, indique-t-il, vit à Sheffield. Le fond : un hibou qui fait un clin d'œil.

Canaelan est, en fait, un robot non humain lié à une vaste armée de faux profils de réseaux sociaux contrôlés par un logiciel conçu pour diffuser de la "propagande".

Advanced Impact Media Solutions, ou Aims, qui contrôle plus de 30 000 faux profils de médias sociaux, peut être utilisé pour diffuser la désinformation à grande échelle et rapidement. Il est vendu par "Team Jorge", une unité d'agents de désinformation basée en Israël.

Tal Hanan, qui dirige le groupe secret sous le pseudonyme "Jorge", a déclaré à des journalistes infiltrés qu'ils avaient vendu l'accès à leur logiciel à des agences de renseignement, des partis politiques et des entreprises anonymes. L'un semble avoir été vendu à un client qui voulait discréditer l'Information Commissioner's Office (ICO) du Royaume-Uni, un organisme de surveillance statutaire.

Le 18 octobre 2020, l'ICO a décidé que le gouvernement devait révéler quelles entreprises avaient obtenu des contrats de plusieurs millions de livres pour fournir des EPI après avoir été inscrit dans une voie "VIP" pour les entreprises politiquement connectées. "C'est politiquement motivé, c'est clair !" Canaelan a déploré sur Twitter deux jours plus tard.

Ce commentaire faisait partie d'un chœur de désapprobation généré par les bots, qui semblaient consternés. "Le commissaire à l'information tente par tous les moyens de détruire le gouvernement", a déclaré l'un d'eux, tandis qu'un autre a qualifié la décision d'"acte désespéré".

Toutes les "réponses" sous ce tweet et d'autres étaient unies dans leur indignation contre l'ICO, qu'ils ont décrite comme "une perte de temps" et "boiteuse". Au fur et à mesure que les réponses continuaient, ils sont devenus plus incisifs, portant des accusations sauvages et fausses contre l'ICO au sujet des pots-de-vin, de la corruption et des liens avec l'extrême droite.

D'autres semblaient simplement déconcertés par l'insistance de l'ICO sur la transparence des achats du gouvernement en cas de pandémie. "C'est tellement typique du Royaume-Uni…", a déclaré un bot, "se concentrer sur les mauvaises choses".

On ne sait pas qui a chargé l'équipe Jorge de libérer les bots sur l'ICO, ni pourquoi. Hanan n'a pas répondu aux demandes détaillées de commentaires mais a déclaré: "Pour être clair, je nie tout acte répréhensible."

La campagne ICO semble avoir été relativement courte par rapport à d'autres dans le monde que les journalistes ont pu relier au logiciel Team Jorge's Aims, qui est bien plus qu'un programme de contrôle de robots.

Chaque avatar, selon une démonstration que Hanan a donnée aux journalistes infiltrés, reçoit une trame de fond numérique à multiples facettes.

Aims permet la création de comptes sur Twitter, LinkedIn, Facebook, Telegram, Gmail, Instagram et YouTube. Certains ont même des comptes Amazon avec des cartes de crédit, des portefeuilles Bitcoin et des comptes Airbnb.

Hanan a déclaré aux journalistes infiltrés que ses avatars imitaient le comportement humain et que leurs messages étaient alimentés par l'intelligence artificielle.

En utilisant les avatars liés à Aims révélés par l'équipe Jorge dans des présentations et des vidéos, les journalistes du Guardian, du Monde et de Der Spiegel ont pu identifier un réseau beaucoup plus large de 2 000 bots liés à Aims sur Facebook et Twitter.

The Guardian et Observer se sont associés à un consortium international de journalistes pour enquêter sur la désinformation mondiale. Notre projet, Disinfo black ops, expose comment de fausses informations sont délibérément diffusées par des États puissants et des agents privés qui vendent leurs services secrets à des campagnes politiques, des entreprises et des particuliers fortunés. Il révèle également comment des vérités gênantes peuvent être effacées d'Internet par ceux qui sont assez riches pour payer. L'enquête s'inscrit dans le cadre de Story killers, une collaboration menée par Forbidden Stories, une association française à but non lucratif dont la mission est de poursuivre le travail des reporters assassinés, menacés ou emprisonnés.

L'enquête de huit mois a été inspirée par le travail de Gauri Lankesh, une journaliste de 55 ans qui a été abattue devant son domicile de Bengaluru en 2017. Quelques heures avant son assassinat, Lankesh avait mis la touche finale à un article intitulé In the Age of False News, qui examinait comment les soi-disant usines à mensonges en ligne propageaient la désinformation en Inde. Dans la dernière ligne de l'article, qui a été publié après sa mort, Lankesh a écrit : "Je veux saluer tous ceux qui exposent de fausses nouvelles. J'aimerais qu'il y en ait plus."

Le consortium Story killers comprend plus de 100 journalistes de 30 médias dont Haaretz, Le Monde, Radio France, Der Spiegel, Paper Trail Media, Die Zeit, TheMarker et l'OCCRP. En lire plus à propos de ce projet.

Un journalisme d'investigation comme celui-ci est vital pour notre démocratie. Veuillez envisager de le soutenir aujourd'hui.

Nous avons ensuite retracé leur activité sur Internet, identifiant leur implication dans ce qui semblait être principalement des différends commerciaux dans une vingtaine de pays, dont le Royaume-Uni, les États-Unis, le Canada, l'Allemagne, la Suisse, la Grèce, le Panama, le Sénégal, le Mexique, le Maroc, l'Inde, les Émirats arabes unis, le Zimbabwe, la Biélorussie et l'Équateur.

L'analyse a révélé un vaste éventail d'activités de robots, les faux profils de réseaux sociaux d'Aims étant impliqués dans un différend en Californie sur l'énergie nucléaire ; une controverse #MeToo au Canada; une campagne en France impliquant un responsable qatari de l'ONU ; et une élection au Sénégal.

L'une des campagnes soutenues par Aims visait une société de superyachts basée à Monaco, l'accusant d'avoir des liens directs avec plusieurs oligarques russes faisant l'objet de sanctions.

Nous avons également identifié des événements du monde réel qui semblaient avoir été mis en scène pour fournir des munitions pouvant être exploitées dans des campagnes sur les réseaux sociaux. Un cas concernait une fausse manifestation organisée devant le siège d'une entreprise sur Regent Street, dans le centre de Londres.

Trois militants masqués portant des casquettes de baseball, des lunettes de soleil et des masques se sont filmés en agitant des pancartes. Une campagne de tracts similaire a été organisée près de la Tour Eiffel à Paris, avant d'être diffusée sur les réseaux sociaux par les bots Aims. Il n'est pas possible de savoir qui étaient les clients d'aucune des campagnes, ni même quel était leur objectif.

Cependant, ce qui semble clair, c'est que les avatars colportant de la propagande le font à l'aide de photographies volées de personnes réelles.

La photo d'un homme rayonnant sur la biographie Twitter de Canaelan, a établi le Guardian, a été tirée de la vraie page Twitter de Tom Van Rooijen, 25 ans, un journaliste néerlandais indépendant vivant aux Pays-Bas.

Informé du vol d'identité par le Guardian, Van Rooijen a déclaré qu'il se sentait "assez mal à l'aise" de voir son visage à côté d'un tweet exprimant des opinions avec lesquelles il n'était pas d'accord. "Je donne beaucoup d'ateliers aux classes d'école sur les nouvelles, les médias, le journalisme et les fausses nouvelles. J'enseigne aux enfants chaque semaine que leur identité peut être usurpée par un bot Twitter", a-t-il déclaré. "Je n'ai jamais pensé que ma propre identité serait volée par un bot."

Van Rooijen est susceptible de faire partie des dizaines de milliers de victimes sans méfiance dont les images ont été récoltées par l'équipe Jorge.

D'autres techniques sont également utilisées pour crédibiliser les avatars et éviter les systèmes de détection de robots créés par les plateformes technologiques. Hanan a déclaré que ses robots étaient liés à des numéros de téléphone vérifiés par SMS et que certains avaient même des cartes de crédit. Aims a également différents groupes d'avatars de différentes nationalités et langues, avec des preuves qu'ils ont poussé des récits en russe, espagnol, français et japonais.

Les personnes impliquées dans la campagne ICO avaient été faites pour sembler britanniques, retweetant des articles de presse du Guardian, de la BBC, du Daily Mail et du Telegraph. Ils ont montré un intérêt pour la famille royale, Glastonbury et la performance de Liz Truss en tant que ministre des Affaires étrangères, et ont publié des blagues légères sur la météo et la nourriture britanniques, ainsi que des photos panoramiques du Wiltshire et du Yorkshire.

Ces antécédents ont fourni une certaine crédibilité lorsque, plus tard, ils ont soudainement commencé à exprimer des opinions sur le chien de garde des données du Royaume-Uni.

Twitter a refusé de commenter. Meta, le propriétaire de Facebook, a supprimé cette semaine des robots liés à Aims sur sa plate-forme après que des journalistes eurent partagé un échantillon des faux comptes avec l'entreprise. Mardi, un porte-parole de Meta a connecté les bots Aims à d'autres qui étaient liés en 2019 à une autre entreprise israélienne aujourd'hui disparue qu'elle a bannie de la plateforme.

"Cette dernière activité est une tentative de certains des mêmes individus de revenir et nous les avons renvoyés pour avoir enfreint nos politiques", a déclaré le porte-parole. "La dernière activité du groupe semble s'être concentrée sur la diffusion de fausses pétitions sur Internet ou la diffusion d'histoires fabriquées dans les médias grand public."

Malgré toute leur sophistication apparente, certains avatars Aims ont trahi des cadeaux. L'un des robots Twitter impliqués dans les campagnes britanniques aux côtés de Canaelan était "Alexander", dont la photo de profil montrait un jeune homme avec une barbe sculptée dans un bonnet blanc. L'arrière-plan : des tulipes orange à côté d'un slogan joyeux "Be happy".

Et sa biographie de profil se composait de deux courtes phrases qui laissaient entrevoir un intérêt pour les mensonges – et comment les rendre convaincants : "La différence entre la fiction et la réalité ?" La fiction doit avoir du sens."