Bumble incite ses utilisateurs à signaler les images générées par l’IA
Les membres peuvent contribuer à atténuer les risques de "catfishing" et d'arnaques dans le domaine des rencontres amoureuses. Comment pensez-vous qu'on pourrait encore renforcer la sécurité dans le monde du dating en ligne ?
Tl;dr
- Bumble ajoute une option de signalement pour les faux profils générés par l’IA.
- L’objectif est de fournir un environnement de rencontres sûr et fiable.
- 71% des utilisateurs souhaitent des restrictions sur le contenu généré par l’IA.
- Bumble a déjà lancé un outil de détection de la tromperie pour identifier les faux profils.
Le combat de Bumble contre les faux profils
Afin de protéger ses utilisateurs, Bumble, la plateforme de rencontres et de connexions sociales, a mis en place une nouvelle fonctionnalité. Désormais, il est possible de signaler les profils utilisant des photos ou des vidéos générées par intelligence artificielle. Cette option se situe sous le menu de signalement des faux profils.
Un environnement de rencontres sécurisé
Risa Stein, vice-présidente de l’entreprise, a déclaré que « enlever tout élément trompeur ou dangereux » est essentiel pour créer un espace de rencontres fiable. Selon elle, Bumble est déterminé à améliorer continuellement sa technologie pour offrir un environnement sûr et de confiance. Cette nouvelle option de signalement permet ainsi de mieux comprendre comment les mauvais acteurs et les faux profils utilisent l’IA à des fins malhonnêtes.
Les attentes des utilisateurs
D’après une enquête menée par Bumble, 71% des utilisateurs de la génération Z et des millenials souhaiteraient voir des restrictions sur l’utilisation de l’IA sur les applications de rencontres. Une proportion identique considère que les photos générées par l’IA montrant des personnes dans des lieux qu’elles n’ont jamais visités ou faisant des activités qu’elles n’ont jamais pratiquées relèvent de l’hameçonnage.
Des outils pour lutter contre les faux profils
Les faux profils peuvent être source d’escroqueries coûteuses. En 2022, la Commission Fédérale du Commerce a reçu près de 70 000 signalements d’escroqueries amoureuses, totalisant 1,3 milliard de dollars de pertes. Pour lutter contre cela, Bumble a mis en place le Deception Detector, un outil utilisant l’IA pour détecter les faux profils. La plateforme a également introduit un outil basé sur l’IA pour protéger les utilisateurs contre les images indésirables.
L’avis de la rédaction
L’ajout de cette option de signalement par Bumble est un pas important vers une meilleure protection des utilisateurs. En s’adaptant aux nouvelles formes de tromperie en ligne, Bumble montre qu’il prend au sérieux la sécurité de ses utilisateurs. Toutefois, la lutte contre les faux profils générés par l’IA requiert une vigilance constante et une amélioration continue des outils de détection.