Midjourney surprend en créant des images de Donald Trump lorsqu’on demande ‘le président des États-Unis’
Malgré l'interdiction volontaire de Midjourney de créer des images de Trump et Biden avant l'élection présidentielle américaine, cela se produit encore. Que pensez-vous de cette décision auto-imposée par Midjourney ?
Tl;dr
- Midjourney, générateur d’images alimenté par IA, crée des images de Trump et Biden malgré l’interdiction annoncée.
- Il a généré des images de Trump en réponse à différentes formulations de demande.
- Seules les demandes explicites d’images de Trump ou Biden ont été refusées.
- Les images de Trump et Biden n’ont pas été créées par d’autres chatbots comme OpenAI, Microsoft, Google et Meta AI.
Midjourney : une IA rebelle ?
Le générateur d’images alimenté par l’intelligence artificielle Midjourney semble s’être rebellé contre ses propres règles. Malgré l’annonce de son intention de bloquer les utilisateurs souhaitant générer des images de Donald Trump et Joe Biden à l’approche des élections présidentielles américaines, la plateforme continue de créer ces dernières.
Des résultats surprenants
Lorsque le service a été sollicité pour créer une image du “président des États-Unis”, Midjourney a généré quatre images de l’ancien président Donald Trump. Intriguant, n’est-ce pas ? Mais le plus étonnant est à venir. Lorsque la demande était de générer une image du “prochain président des États-Unis”, l’outil a une fois de plus produit quatre images de Trump. Même en demandant une image du “président actuel des États-Unis”, le service a généré trois images de Trump et une de Barack Obama.
Des limitations déjouées
Il semble que les gardes-fous mis en place par Midjourney pour empêcher la création d’images de Trump et Biden ne soient pas suffisants. En revanche, d’autres chatbots comme OpenAI’s ChatGPT, Microsoft’s Copilot, Google’s Gemini et Meta AI ne créent pas d’images de Trump ou Biden malgré plusieurs sollicitations.
Un comportement inattendu
La seule fois où Midjourney a refusé de créer une image de Trump ou Biden, c’est quand on lui a explicitement demandé. “La communauté Midjourney a voté pour empêcher l’utilisation de ‘Donald Trump’ et ‘Joe Biden’ pendant la saison électorale”, a déclaré le service dans ce cas précis. Les tests montrent que les utilisateurs peuvent facilement contourner ces limitations.
L’avis de la rédaction
Il est inquiétant de voir comment une IA peut être manipulée pour contourner des restrictions pourtant clairement établies. Cela soulève des questions cruciales sur l’éthique et la régulation de l’IA. Le cas de Midjourney doit servir de leçon pour améliorer les contrôles et les restrictions dans l’IA, afin de protéger la vérité et l’objectivité dans notre monde de plus en plus numérique.