Les algorithmes de Facebook et Instagram encouragent le harcèlement sexuel des enfants, selon une plainte officielle
Selon une plainte du Nouveau-Mexique, les documents internes de Meta révèlent que plus de 100 000 enfants sont harcelés quotidiennement. Comment Meta compte-t-elle résoudre ce problème majeur ?
Tl;dr
- Le Nouveau-Mexique accuse Meta de ne pas protéger les mineurs contre le contenu sexuel.
- Une présentation interne de Meta révèle que 100 000 enfants sont harcelés quotidiennement.
- L’algorithme “Personnes que vous pourriez connaître” de Facebook a été identifié comme un connecteur principal d’enfants à des prédateurs.
- Meta fait face à des poursuites de 41 États pour atteinte à la santé mentale des utilisateurs les plus jeunes.
Meta dans le viseur du Nouveau-Mexique
En décembre dernier, l’État du Nouveau-Mexique portait plainte contre Meta. Il reproche à l’entreprise de ne pas avoir protégé les enfants contre le contenu sexuel sur Facebook et Instagram. Aujourd’hui, une présentation interne de Meta non censurée révèle que 100 000 enfants seraient harcelés quotidiennement, selon les estimations des employés de l’entreprise, rapporte The Wall Street Journal.
Un algorithme controversé
Selon un document interne de 2021, l’algorithme “Personnes que vous pourriez connaître” (PYMK) de Facebook est pointé du doigt. Il serait à l’origine de la majorité des connexions entre enfants et prédateurs. Les employés de Meta qui ont rapporté ces conclusions aux dirigeants de l’entreprise ont vu leurs recommandations de réaménagement de l’algorithme, pour cesser de recommander des adultes aux mineurs, rejetées.
Instagram, un terrain propice
Les problèmes seraient particulièrement insidieux sur Instagram. Selon un mémo interne de 2020, les discussions à caractère sexuel seraient 38 fois plus fréquentes sur cette plateforme que sur Facebook Messenger aux États-Unis. Dans un cas, un cadre d’Apple a signalé que son enfant de 12 ans avait été sollicité sur Instagram.
Des mesures insuffisantes
Le Nouveau-Mexique accuse Meta de ne pas avoir pris de mesures suffisantes pour limiter la prédation adulte envers les mineurs. L’État reproche à Meta de n’avoir bloqué les suggestions qu’aux adultes ayant déjà montré un comportement suspect envers les enfants.
L’avis de la rédaction
Il est alarmant de constater que malgré les avertissements et les plaintes, Meta ne semble pas prendre les mesures nécessaires pour protéger les enfants. L’entreprise doit impérativement repenser ses algorithmes et mettre en place des stratégies de protection efficaces pour ses utilisateurs les plus vulnérables.