Microsoft, OpenAI, Google s’allient pour lutter contre les deepfakes liés aux élections
Certains critiques expriment des inquiétudes, estimant que le langage du pacte n'est pas suffisamment explicite. Pensez-vous que ces préoccupations sont fondées?
Tl;dr
- Une coalition de 20 entreprises technologiques s’engage à prévenir les deepfakes lors des élections de 2024.
- Les signataires s’engagent à huit engagements, dont le développement de technologies pour contrer le contenu trompeur.
- Des outils de détection et de gestion des deepfakes seront créés et partagés.
- Des questions demeurent quant à l’efficacité de l’accord en l’absence d’application contraignante.
Les géants de la tech s’unissent contre les deepfakes
Vingt entreprises technologiques mondiales, dont OpenAI, Google, Meta, Amazon, Adobe et X, ont signé vendredi dernier un accord visant à prévenir et à combattre le contenu généré par l’IA susceptible d’influencer les électeurs lors des élections critiques de 2024.
Un accord pour sécuriser les élections
Cet accord, baptisé « Tech Accord to Combat Deceptive Use of AI in 2024 Elections », réunit des entreprises créant et distribuant des modèles d’IA, ainsi que des plateformes sociales où les deepfakes sont susceptibles d’apparaître. Les signataires se sont engagés à respecter huit engagements, notamment :
- Développer et mettre en œuvre des technologies pour atténuer les risques liés au contenu de l’IA trompeur.
- Évaluer les modèles pour comprendre les risques qu’ils peuvent présenter.
- Détecter et traiter ce contenu sur leurs plateformes.
Des doutes sur l’efficacité de l’accord
Cependant, le langage vague de l’accord et l’absence d’application contraignante soulèvent des questions quant à sa portée réelle. En effet, il reste à voir si cet ensemble d’engagements non contraignants sera suffisant pour combattre un scénario cauchemardesque où les mauvais acteurs mondiaux utiliseraient l’IA générative pour influencer l’opinion publique et élire des candidats agressivement anti-démocratiques.
Les deepfakes déjà utilisés en politique
Les deepfakes générés par l’IA ont déjà été utilisés lors des élections présidentielles américaines, avec des images générées par l’IA de Joe Biden et Kamala Harris utilisées dans une publicité du Comité national républicain.
L’avis de la rédaction
Cet accord représente un pas important vers la protection de l’intégrité des élections. Cependant, sans une application stricte et des sanctions pour non-respect, son efficacité pourrait être limitée. Il est impératif que les entreprises technologiques prennent leurs responsabilités face à cette menace grandissante pour la démocratie.