Comment OpenAI a neutralisé une opération d’influence iranienne utilisant ChatGPT pour fabriquer de fausses actualités
La société a indiqué que les histoires et publications sur les réseaux sociaux n'ont pas vraiment eu d'impact notable. Pourquoi ces contenus n'ont-ils pas réussi à attirer l'attention ?
Tl;dr
- OpenAI a déjoué une campagne d’influence iranienne utilisant ChatGPT pour générer de fausses informations visant les Américains.
- La campagne, nommée « Storm-2035 », a été connectée au gouvernement iranien par Microsoft.
- Malgré ses tentatives, la campagne n’a pas eu de traction significative sur les réseaux sociaux.
- La campagne a créé du contenu sur des sujets variés, de la politique américaine à la beauté et la mode, pour essayer de paraître plus authentique.
OpenAI déjoue une campagne d’influence iranienne
Dans une récente annonce, OpenAI a révélé avoir déjoué une campagne d’influence iranienne. Cette dernière utilisait la technologie ChatGPT d’OpenAI pour générer de fausses informations et des messages sur les réseaux sociaux, ciblant spécifiquement les Américains.
Une opération connectée au gouvernement iranien
L’opération, nommée « Storm-2035 », a été identifiée par Microsoft comme faisant partie d’une série de campagnes d’influence liées au gouvernement iranien. OpenAI a identifié et banni des comptes produisant du contenu pour cinq sites web, prétendant être des médias d’information. Ils propageaient des messages polarisants sur des sujets tels que la campagne présidentielle américaine, les droits LGBTQ+ et la guerre à Gaza.
Une opération sans traction significative
Malgré l’ampleur de l’opération, OpenAI a déclaré que celle-ci ne semble pas avoir gagné de traction significative. « La majorité des publications sur les réseaux sociaux que nous avons identifiées ont reçu peu ou pas de likes, de partages ou de commentaires », a écrit l’entreprise.
Une diversité de sujets pour paraître authentique
Selon Bloomberg, l’opération a créé du contenu pour de faux médias d’information conservateurs et progressistes, ciblant des points de vue opposés. Elle a également produit du contenu sur la présence d’Israël aux Jeux Olympiques, la politique vénézuélienne, les droits des communautés latino-américaines et l’indépendance écossaise. Certains commentaires sur la mode et la beauté ont été ajoutés, « peut-être pour paraître plus authentique ou dans une tentative de construire une audience ».
L’avis de la rédaction
Il est indéniable que l’avènement des technologies d’IA comme ChatGPT a ouvert de nouvelles voies pour les campagnes d’influence. Cependant, l’exemple de « Storm-2035 » montre que ces tentatives peuvent être déjouées. Il est crucial que les entreprises technologiques continuent à surveiller activement ces menaces pour préserver l’intégrité de nos informations.