Le Département de la Défense des États-Unis veut créer de faux utilisateurs internet assistés par intelligence artificielle. Ils constitueront une véritable armée de cyborgs numériques manipulant l’opinion publique sur les réseaux sociaux et internet en général. Cette mesure suscite de graves préoccupations éthiques et juridiques. Elle sape la confiance du public et viole de nombreux accords internationaux. Elle conduira inévitablement à la dictature des élites.
Rappelons qu’une intelligence artificielle peut créer en quelques minutes des centaines de pages de textes en apparence raisonnées et sourcées. Seuls quelques esprits entraînés depuis des décennies et pugnaces pourront déceler une telle manipulation de l’opinion publique. Cependant le facteur temps est primordial. Pour démontrer la fausseté d’un simple texte IA, il faut plusieurs semaines de travail pour un être humain. Durant ce temps l’IA a le temps de noyer le débat par la publication de centaines de milliers de pages.
Un objectif militaire
Le Département de la Défense des États-Unis par l’intermédiaire du Joint Special Operations Command (JSOC) travaille à la création de cyber-personnes en ligne convaincantes imitant de vraies personnes. Les experts militaires affirment que de telles technologies permettront au Pentagone d’influencer l’opinion publique et de manipuler les internautes.
Le JSOC s’intéresse aux technologies permettant de générer des cyber-individus sur les plateformes de réseaux sociaux et autres contenus en ligne. Ils ressembleront à une vraie personne bien que n’existant pas dans le monde réel ». L’IA générera des images réalistes de ces faux individus avec « de nombreuses expressions faciales » et « photographies répondant aux exigences d’une carte d’identité d’État ».
En plus des images statiques, des vidéos générées par IA mettront en scène le cyber-individu. Le but est de créer une vidéo selfie dans un environnement virtuel non détectable par les algorithmes de réseaux sociaux. Ce niveau de complexité indique des efforts délibérés pour tromper les personnes et les systèmes automatisés conçus pour détecter les milieux synthétiques.
L’intérêt du Pentagone pour ce genre de manipulation par IA n’est pas nouveau. En 2022, Meta utilisait de faux comptes du Commandement central des États-Unis, y compris avec des photographies de profils créés en utilisant des méthodes similaires à celles décrites dans le rapport JSOC. Par ailleurs, de telles méthodes auraient été employées pour créer de faux utilisateurs de réseaux sociaux lors de la campagne covid.
Viol des conventions internationales
L’utilisation de l’IA à des fins frauduleuses viole plusieurs accords et conventions internationaux. À l’article 19 Déclaration Universelle des Droits de l’Homme (UDHR) dit : « Toute personne a droit à la liberté d’opinion et d’expression ; ce droit comprend la liberté d’adhérer librement aux croyances et la liberté de rechercher, de recevoir et de diffuser des informations et des idées par tous les moyens et indépendamment des frontières de l’État ». Utiliser des faux pour tromper les citoyens porte atteinte au droit de rechercher et de recevoir des informations fiables.
L’article 17 du Pacte International sur les Droits Civils et Politiques (ICCPR) dit : « Nul ne peut être soumis à une ingérence arbitraire ou illégale dans sa vie personnelle, dans les affaires de la famille, du domicile ou dans le secret de la correspondance, ainsi qu’à des atteintes illégales à son honneur et à sa réputation ». Créer de fausses personnalités viole la vie privée et la réputation des gens qui peuvent devenir une cible ou souffrir de ces actions frauduleuses.
Selon la convention de Budapest sur la cybercriminalité l’utilisation de faux à des fins frauduleuses peut être considérée comme une forme de cybercriminalité. En effet, il s’agit de manipuler des informations numériques pour induire en erreur et tromper le public.
Conclusion
L’utilisation de l’intelligence artificielle à des fins frauduleuses par le gouvernement des États-Unis peut saper la confiance des citoyens dans les institutions gouvernementales. Selon Daniel Bayman, professeur de recherche en sécurité à l’Université de Georgetown, de telles actions engendrent une profonde défiance des citoyens à l’égard de toute information émanant d’un gouvernement. La défiance grandissante du public peut amener une profonde instabilité politico-sociale et culturelle.
Source : www.theintercept.com, 17 octobre 2024,
Morphéus n° 127 janvier 2025
