OpenAI dévoile sa stratégie anti-désinformation avant les élections de 2024 : une révolution à découvrir !
Cela inclura la détection des images générées par l'intelligence artificielle. Comment pouvons-nous distinguer les images créées par IA des vraies ?
- OpenAI développe des plans pour contrer la désinformation électorale.
- Utilisation de la cryptographie pour traquer l’origine des images générées par l’IA.
- Coopération avec les journalistes et chercheurs pour améliorer le classement des provenances.
- OpenAI réaffirme sa politique contre les tentatives d’usurpation d’identité et la désinformation électorale.
OpenAI à l’assaut de la désinformation
En prévision de l’élection présidentielle américaine de 2024, OpenAI met au point une stratégie pour combattre la désinformation en rapport avec les élections à travers le monde. Leur objectif principal est d’augmenter la transparence concernant l’origine des informations.
La cryptographie pour tracer l’information
Une des mesures phares de cette stratégie est l’utilisation de la cryptographie. En suivant les normes établies par la Coalition pour la Provenance et l’Authenticité du Contenu, cette technique permettra de coder la provenance des images générées par DALL-E 3. Ainsi, la plateforme pourra mieux détecter les images créées par l’IA grâce à un classificateur de provenance. Ce dernier aidera les électeurs à évaluer la fiabilité du contenu.
Il est à noter que cette approche est similaire, voire supérieure, à celle de DeepMind avec SynthID, qui appose un filigrane numérique sur les images et les audios générés par l’IA. Meta, de son côté, ajoute un filigrane invisible à son contenu, mais n’a pas encore communiqué sur sa capacité à gérer la désinformation liée aux élections.
Une collaboration pour perfectionner le système
OpenAI prévoit de collaborer avec des journalistes, des chercheurs et des plateformes pour recueillir des avis sur son classificateur de provenance. Parallèlement, les utilisateurs de ChatGPT commenceront à voir des nouvelles en temps réel du monde entier, avec attribution et liens. Ils seront également redirigés vers CanIVote.org, la source officielle en ligne sur le vote aux États-Unis, lorsqu’ils poseront des questions procédurales.
Renforcement des politiques existantes
OpenAI rappelle également ses politiques actuelles visant à éliminer les tentatives d’usurpation d’identité sous forme de deepfakes et de chatbots, ainsi que le contenu visant à déformer le processus électoral ou à dissuader les gens de voter. L’entreprise interdit également les applications conçues pour les campagnes politiques.
L’avis de la rédaction
Les initiatives d’OpenAI marquent un pas important dans la lutte contre la désinformation. Si elles sont couronnées de succès, elles pourraient devenir un modèle à suivre à l’échelle mondiale. Toutefois, leur mise en œuvre et leur efficacité restent à prouver.