Une plateforme IA populaire lance un système de récompenses pour inciter à la création de deepfakes réalistes
La fonctionnalité "bounties" a majoritairement servi à recréer des femmes, ce qui n'est pas vraiment surprenant. Quelle pourrait être la prochaine utilisation étonnante de cette fonctionnalité ?
- Civitai, une plateforme d’IA, lance une nouvelle fonctionnalité appelée « bounties ».
- Les « bounties » encouragent la création de deepfakes, suscitant des inquiétudes.
- La majorité des demandes concernent des personnalités célèbres, principalement féminines.
- La plateforme Civitai est actuellement la septième plus populaire en matière d’IA générative.
Civitai et les « bounties » : Une nouvelle ère de deepfakes
Civitai, reconnu pour son marché en ligne de modèles d’IA, a récemment lancé une fonctionnalité nommée « bounties ». Cette innovation, relayée en premier lieu par 404 Media, offre une monnaie virtuelle, le « Buzz », à ceux qui produisent les meilleurs modèles d’IA. Cependant, cette initiative n’est pas sans soulever de nombreuses inquiétudes.
Des personnalités publiques aux anonymes : tous concernés
Selon 404 Media, une grande partie des « bounties » publiées sur le site demandent de recréer des célébrités et des influenceurs de médias sociaux, majoritairement féminins. L’accent est mis sur la création d’images sexuelles non consenties, alimentant ainsi une tendance inquiétante déjà présente sur internet depuis de nombreuses années. Mais l’IA rend le résultat plus réaliste, et donc plus effrayant. Des demandes concernent même des personnes privées sans présence significative en ligne, accentuant le malaise.
La crainte des victimes
Une telle situation suscite une peur légitime chez les personnes concernées. Michele Alves, influenceuse Instagram ayant une « bounty » sur Civitai, exprime sa crainte envers ce que cela pourrait devenir, estimant que l’internet semble être un lieu hors de contrôle.
Civitai : une plateforme populaire
D’après la firme de marché Andreessen Horowitz, Civitai est actuellement la septième plateforme d’IA générative la plus populaire. De nombreux utilisateurs voient donc ces demandes de « bounties ». 404 Media a même réussi à retrouver rapidement les images envoyées via une demande de « bounty » à une personne privée. L’auteur de la demande prétendait qu’il s’agissait de sa femme, mais ses comptes de médias sociaux contredisaient ses dires.
L’avis de la rédaction
Face à l’évolution constante de l’IA, nous devons être extrêmement vigilants quant à l’éthique de son utilisation. Le potentiel de l’IA est immense, mais l’exemple de Civitai montre qu’il peut être détourné de manière inquiétante. Nous sommes donc face à un défi majeur : comment utiliser l’IA de manière responsable et éthique ?