Le conseil a annoncé que le terme "photoshop sexualisé dérogatoire" est désormais obsolète. Ce changement de vocabulaire souligne-t-il une évolution des mentalités concernant la sexualisation excessive dans les médias ?
- Le conseil de surveillance de Meta recommande une mise à jour des règles relatives aux deepfakes sexuellement explicites.
- Le conseil a pris cette décision à la suite de deux cas impliquant des images générées par IA de personnalités publiques.
- Le conseil suggère des politiques claires interdisant les images explicites non-consensuelles créées ou manipulées par l’IA.
- La diffusion des images explicites par IA, comme le « porn deepfake », est devenue un problème de harcèlement en ligne.
Le Conseil de Surveillance de Meta exige une mise à jour des règles
Le Conseil de Surveillance de Meta, l’entreprise derrière Facebook et Instagram, a récemment appelé à une mise à jour des règles concernant les deepfakes sexuellement explicites. Cette démarche fait suite à deux affaires impliquant des images de personnalités publiques générées par intelligence artificielle (IA).
Des affaires qui soulèvent le problème de la régulation
Dans les deux cas, les images, qui montraient des femmes nues, ont été signalées à Meta. L’une d’elles, postée sur Instagram, a été initialement laissée en ligne par l’entreprise, avant d’être finalement supprimée suite à l’intervention du Conseil. Le second post, partagé sur un groupe Facebook dédié à l’art par IA, a été supprimé automatiquement par Meta.
Des règles à moderniser
Le Conseil a souligné que ces « deepfakes » violaient les règles de l’entreprise interdisant les images « photoshop sexualisées et dérogatoires ». Cependant, selon le Conseil, le langage utilisé dans ces règles est obsolète et rend difficile pour les utilisateurs de signaler les images explicites générées par l’IA. Il propose donc une mise à jour des politiques pour interdire clairement les images explicites non-consensuelles créées ou manipulées par l’IA.
Un phénomène en augmentation
La propagation d’images explicites générées par IA, connues sous le nom de « porn deepfake », est devenue une forme de harcèlement en ligne de plus en plus répandue. Aux États-Unis, le Sénat a récemment voté à l’unanimité une loi visant à réprimer les deepfakes explicites, permettant aux victimes de poursuivre les créateurs de ces images pour des sommes pouvant atteindre 250 000 dollars.
L’avis de la rédaction
Face à l’essor des deepfakes, il est impératif que les géants du web comme Meta adaptent leurs règles et renforcent leur modération. Ces images, qui peuvent avoir des conséquences dévastatrices pour les personnes impliquées, doivent faire l’objet d’une régulation plus stricte. C’est une question de respect de la dignité humaine et de protection des droits de chacun sur internet.