OpenAI confronté à une nouvelle polémique sur l’imaginaire débordant de ChatGPT
Il semblerait que le bot n'ait pas corrigé des informations erronées concernant une vraie personne, et l'entreprise a déclaré qu'elle ne pouvait pas intervenir. Quelles pourraient être les implications de ce manque de contrôle ?
Tl;dr
- OpenAI fait l’objet d’une plainte en Autriche pour violation de la vie privée.
- Le bot ChatGPT aurait fourni des informations incorrectes sur une personne réelle.
- OpenAI aurait refusé de supprimer ces fausses informations, citant des contraintes techniques.
- La tendance du chatbot à inventer des informations pourrait enfreindre le RGPD de l’UE.
Une plainte lancée contre OpenAI en Autriche
Un groupe de défense appelé NOYB, pour « None Of Your Business », a déposé une plainte contre OpenAI en Autriche pour violation de la vie privée. Selon Reuters, l’entreprise est accusée d’avoir fourni à plusieurs reprises des informations erronées sur une personne réelle via son bot ChatGPT, ce qui pourrait constituer une infraction aux règles de confidentialité de l’UE.
ChatGPT : un bot qui « hallucine » ?
Le chatbot est accusé d’avoir divulgué une date de naissance incorrecte pour l’individu en question, au lieu de simplement admettre qu’il ne connaissait pas la réponse à la requête. Ce type de comportement, où le bot invente des réponses, est qualifié d' »hallucination ». Si cela peut prêter à sourire lorsqu’il s’agit d’inventer des ingrédients pour une recette, la situation devient beaucoup plus sérieuse lorsque ces bots inventent des choses sur de vraies personnes.
Des difficultés techniques pour supprimer les fausses informations
La plainte indique également qu’OpenAI aurait refusé d’aider à supprimer les fausses informations, arguant qu’il était techniquement impossible de faire ce genre de modification. Toutefois, selon TechCrunch, la société a proposé de filtrer ou de bloquer les données sur certaines requêtes.
Le respect du RGPD en question
Cette affaire dépasse le cadre d’une simple plainte. En effet, la tendance du chatbot à fabriquer des informations pourrait être en violation du Règlement Général sur la Protection des Données (RGPD) de l’UE. Les résidents de l’UE ont le droit de faire rectifier les données fausses les concernant. Le non-respect de ces règlements peut entraîner de lourdes sanctions financières.
L’avis de la rédaction
Il est crucial qu’OpenAI et d’autres entreprises travaillant avec l’IA prennent des mesures pour garantir le respect des lois sur la vie privée. L’IA a le potentiel de transformer notre monde, mais elle doit le faire de manière éthique et respectueuse de la vie privée de chacun.