Google freine la capacité de Gemini à générer des personnages : excès de correction de diversité dans les images historiques
L'outil d'intelligence artificielle a généré des images des nazis et des Pères fondateurs américains en tant que personnes de couleur. Quels pourraient être les implications de cette utilisation de la technologie ?
Tl;dr
- Google suspend la génération d’images de personnes par son chatbot Gemini.
- Des images historiques générées par l’IA ont suscité la controverse en raison de leur représentation inexacte.
- Google travaille à la correction de ces problèmes et prévoit de relancer une version améliorée.
- Ce problème rappelle des incidents similaires avec d’autres IA, comme Bard, également développé par Google.
Google suspend le chatbot Gemini
Google a annoncé jeudi suspendre temporairement la capacité de son chatbot, Gemini, à générer des images de personnes. Cette décision intervient après la diffusion virale sur les réseaux sociaux d’images générées par l’IA, montrant des personnages historiques tels que les Pères fondateurs de l’Amérique, des Nazis et le Pape sous des traits de personnes de couleur.
Des images générées controversées
Les utilisateurs ont remarqué que l’IA de Gemini, lorsqu’elle était sollicitée pour générer des images historiques, produisait des résultats surprenants. Par exemple, The New York Times rapporte que l’utilisateur @JohnLu0x a réussi à tromper le système pour générer des images de soldats nazis de 1943 de différentes origines ethniques.
Une représentation biaisée
D’autres utilisateurs ont critiqué Gemini pour sa représentation biaisée des couples glamour. En effet, lorsque l’IA était sollicitée pour générer une image glamour d’un couple d’une certaine ethnie, elle produisait des résultats pour les couples “chinois”, “juifs” ou “sud-africains”, mais refusait de générer une image pour un couple “blanc”.
Améliorations à venir
Google a réagi rapidement à la controverse, en déclarant travailler à l’amélioration de ces représentations. “Gemini génère un large éventail de personnes, ce qui est généralement une bonne chose. Cependant, elle ne répond pas correctement ici”, a déclaré la firme.
L’avis de la rédaction
Il est indéniable que l’intelligence artificielle a le potentiel de révolutionner de nombreux aspects de notre société. Cependant, cet incident souligne l’importance d’une programmation réfléchie et nuancée. Google, comme d’autres géants de la tech, se doit de faire preuve de vigilance pour éviter de perpétuer des stéréotypes et des inexactitudes historiques, et ainsi garantir une utilisation responsable et équitable de l’IA.