Google s’engage à ajuster la génération d’images de Gemini suite aux critiques de son « wokeness »
La société reconnaît que Gemini présente certaines inexactitudes dans les représentations de générations d'images historiques. Quelles pourraient être les conséquences de ces inexactitudes ?
- Google’s Gemini chatbot peut créer des illustrations générées par IA à partir de descriptions textuelles.
- Certains utilisateurs critiquent Google pour avoir dépeint des figures historiquement blanches en individus divers.
- Google a reconnu ces inexactitudes et promet de les corriger.
- Le chatbot pourrait surcompenser en raison de biais racistes et sexistes précédents dans l’IA.
Google Gemini : entre créativité et controverses
Autrefois connu sous le nom de Bard, le chatbot Gemini de Google est capable de générer des illustrations basées sur des descriptions textuelles fournies par l’utilisateur. Un concept innovant et créatif, mais qui soulève des controverses.
Des représentations contestées
Tout a commencé lorsque Daily Dot a rapporté qu’un ancien employé de Google avait exprimé sur Twitter sa difficulté à faire reconnaître l’existence des personnes blanches par Gemini. En effet, en demandant à Gemini de générer des images de femmes américaines, britanniques et australiennes, le résultat était des images de femmes de couleur. D’autres utilisateurs, majoritairement connus pour être des figures de droite, ont partagé des images similaires, montrant des figures historiques américaines et des papes de l’Église catholique représentés en personnes de couleur.
Une réponse de Google
Face à ces réactions, Google s’est exprimé, reconnaissant que Gemini « offre des inexactitudes dans certaines représentations d’images historiques ». L’entreprise a assuré qu’elle travaillait à corriger ce problème. Cette situation pourrait être liée à une surcorrection de la part de l’IA, suite aux comportements racistes et sexistes observés dans le passé avec d’autres chatbots.
Une vision globale
Jack Krawczyk, responsable produit chez Gemini, a déclaré que Google avait conçu ses « capacités de génération d’images pour refléter [sa] base d’utilisateurs mondiaux, et [qu’il prenait] la représentation et les biais au sérieux ». Il a admis que des « contextes historiques ont plus de nuances » et que son équipe travaillerait à en tenir compte.
L’avis de la rédaction
Le chatbot Gemini de Google est une prouesse technologique, mais il rappelle aussi que l’IA n’est pas à l’abri des biais. Il est donc crucial que les entreprises travaillent continuellement à améliorer leur technologie pour garantir une représentation précise et équitable de tous les utilisateurs.