Des essaims d’IA pourraient échapper aux systèmes de détection de la manipulation en ligne

Un nouvel article académique avertit que les campagnes d’influence alimentées par des agents autonomes d’IA pourraient bientôt devenir beaucoup plus difficiles à détecter et à arrêter. Au lieu de réseaux de bots évidents, les opérations futures pourraient s’appuyer sur des systèmes qui se comportent comme de vrais utilisateurs et adaptent leurs actions au fil du temps. Les chercheurs affirment que ce changement pose de sérieux risques pour le débat public et la gouvernance des plateformes.

Les agents autonomes pourraient transformer la guerre de l’information en ligne

Selon une étude publiée jeudi dans Science, la manipulation numérique évolue : les botnets faciles à identifier laissent place à des groupes coordonnés d’agents IA, appelés “essaims”. Ces systèmes peuvent simuler un comportement humain, interagir avec des conversations en constante évolution, et fonctionner avec très peu de supervision. Résultat : l’application des règles devient bien plus compliquée.

Rédigée par des chercheurs issus d’institutions prestigieuses, l’étude décrit un internet où la manipulation se fond dans l’activité quotidienne. Fini les pics d’activité autour des élections : les campagnes IA peuvent désormais diffuser leurs idées lentement, mais de manière continue, sur la durée.

Ces campagnes adaptent le ton, le timing et leurs cibles au fil des conversations, évitant ainsi d’être repérées par des défenses automatisées ou des modérateurs humains. Les chercheurs définissent un essaim comme un groupe d’agents indépendants poursuivant un objectif commun.

Les réseaux sociaux présentent déjà des failles structurelles favorables à ces tactiques, notamment parce que les utilisateurs y sont souvent exposés à des contenus qui confirment leurs opinions. Des études antérieures ont montré que les fausses informations circulent souvent plus vite que les vraies, alimentant les divisions et sapant la confiance dans les faits.

Les essaims d’IA rémunérés posent de nouveaux défis pour la modération

Les chercheurs listent plusieurs caractéristiques qui distinguent ces essaims des anciennes méthodes de manipulation :

• Ils fonctionnent avec une intervention humaine minimale une fois les objectifs définis
• Ils modifient leurs messages en temps réel selon les réactions des utilisateurs
• Ils répartissent leur contenu sur de nombreux comptes, sans schéma répétitif
• Ils maintiennent des narratifs sur la durée, plutôt que des pics d’activité
• Ils se fondent dans la masse en imitant l’activité humaine normale

Sean Ren, professeur d’informatique à l’Université de Californie du Sud et PDG de Sahara AI, souligne que ces comptes sont déjà très difficiles à détecter. Pour lui, des règles d’identification plus strictes seraient plus efficaces que la seule modération des contenus.

Ces essaims d’agents sont généralement pilotés par des équipes ou des prestataires rémunérés par des entreprises ou des acteurs externes pour mener des campagnes de manipulation coordonnées.

Sean Ren

Des règles KYC plus strictes, ainsi que des limitations sur la création de comptes, pourraient réduire la capacité des agents d’IA à gérer de vastes réseaux coordonnés. Lorsqu’il y a moins de comptes disponibles, les modèles de publication anormaux deviennent plus faciles à repérer, même si les publications individuelles paraissent normales.

Les campagnes d’influence traditionnelles misaient sur le volume : une multitude de comptes diffusant le même message simultanément. Une approche qui facilitait leur détection. À l’inverse, les essaims d’IA, selon l’étude, se distinguent par une coordination plus fine, une autonomie renforcée et une portée plus large.

Selon Ren, les solutions possibles incluent une meilleure détection des comportements coordonnés inhabituels et un étiquetage plus explicite de l’activité automatisée. Toutefois, il prévient que les outils techniques à eux seuls ne suffiront probablement pas à enrayer le phénomène.

Il souligne enfin que de nombreuses opérations de ce type sont menées par des équipes rémunérées pour influencer les discussions en ligne. Tant que les contrôles d’identité ne seront pas renforcés et les règles mieux appliquées, les plateformes risquent de rester désarmées face à des tactiques d’influence de plus en plus discrètes et persistantes.