Le régulateur britannique alerte : le chatbot IA de Snap pourrait menacer la vie privée des enfants

Si My AI n'aborde pas de manière adéquate les préoccupations en matière de confidentialité, l'ICO pourrait empêcher son fonctionnement au Royaume-Uni. Cette entreprise réussira-t-elle à répondre aux exigences en matière de vie privée pour éviter le blocage?

Le Chatbot IA de Snap sous le feu des critiques

Le chatbot My AI de Snap est actuellement dans le collimateur de l’ICO, le régulateur britannique de la vie privée. Ce dernier a exprimé ses préoccupations quant au risque que cette technologie peut représenter pour la protection de la vie privée des enfants.

Un échec préoccupant de Snap

Selon John Edwards, le commissaire à l’information, les conclusions provisoires de l’enquête de l’ICO mettent en lumière un « échec inquiétant de Snap à identifier et évaluer correctement les risques pour la vie privée des enfants et des autres utilisateurs ». Snap pourrait se voir interdire le chatbot alimenté par ChatGPT au Royaume-Uni si l’entreprise ne parvient pas à dissiper les inquiétudes de l’ICO.

Cependant, cette notice préliminaire ne signifie pas nécessairement que l’ICO va prendre des mesures contre Snap ou que l’entreprise a violé les lois sur la protection des données. L’ICO prendra en compte les commentaires de Snap avant de prendre une décision finale.

La réaction de Snap

En réponse à ces accusations, un porte-parole de Snap a déclaré à Reuters que « My AI a subi un processus d’examen juridique et de confidentialité robuste avant d’être rendu public ». Snap a également assuré sa volonté de continuer à travailler de manière constructive avec l’ICO.

Un large public jeune au Royaume-Uni

Il est à noter que Snapchat compte 21 millions d’utilisateurs actifs par mois au Royaume-Uni, dont un grand nombre sont âgés de 13 à 17 ans. L’ICO a également souligné que My AI représentait la première fois qu’un système d’IA générative était ajouté à une plateforme de messagerie majeure dans le pays.

Après le lancement du chatbot, des parents se sont inquiétés de My AI, et pas seulement pour des questions de confidentialité. Une mère d’une adolescente de 13 ans a confié à CNN en avril : « Je ne pense pas être prête à apprendre à ma fille à distinguer émotionnellement les humains des machines quand ils semblent identiques de son point de vue ».

Rappelons que l’ICO a déjà infligé de lourdes amendes à des plateformes de médias sociaux pour mauvaise gestion des données des enfants, dont une amende de 12,7 millions de livres sterling à TikTok plus tôt cette année.