Les développeurs d'IA sont constamment confrontés à un problème majeur : les hallucinations. Ces anomalies représentent un véritable défi dans leur travail. Quelles solutions pourraient être envisagées pour surmonter ce problème ?
- Meta explique les défaillances de son IA concernant l’attentat contre Trump.
- L’IA a généré de fausses réponses, phénomène connu sous le nom de « hallucination de l’IA ».
- Meta a également corrigé une erreur d’étiquetage de photo sur ses plateformes.
- Google a du répondre à Elon Musk concernant une accusation de « blocage de recherche ».
Les défaillances de l’IA de Meta
L’entreprise Meta, autrefois connue sous le nom de Facebook, a récemment fourni des explications suite à des problèmes rencontrés avec son intelligence artificielle (IA). L’IA n’a pas pu répondre correctement à des questions concernant l’attentat contre l’ancien président Trump. Meta a expliqué que son IA est programmée pour ne pas répondre aux questions sur un événement récent, en raison de la « confusion énorme, des informations contradictoires ou des théories du complot » qui circulent souvent juste après.
Le phénomène d’hallucination de l’IA
Par ailleurs, dans certains cas, l’IA de Meta a même nié l’existence de l’attentat. Ce phénomène est connu sous le nom de « hallucination de l’IA ». Il se produit lorsque l’IA génère de fausses réponses à des questions nécessitant des réponses factuelles. Meta a admis avoir tardé à rectifier ces erreurs et travaille actuellement à résoudre ce problème d’hallucination.
Des erreurs d’étiquetage de photos
En plus de ce problème avec l’IA, Meta a également dû expliquer pourquoi ses plateformes ont incorrectement appliqué une étiquette de vérification des faits à une photo de Trump prise juste après l’attentat. Une version falsifiée de cette image a fait croire que ses agents du Secret Service souriaient, ce qui a conduit l’entreprise à appliquer une étiquette de vérification des faits. Meta a depuis corrigé cette erreur.
La réponse de Google à Elon Musk
Google a également dû intervenir après que Elon Musk a affirmé que le moteur de recherche de l’entreprise avait imposé une « interdiction de recherche » sur l’ancien président. Google a expliqué que cela était dû à un bug affectant sa fonction d’autocomplétion, et a assuré que les utilisateurs peuvent effectuer toutes les recherches qu’ils souhaitent à n’importe quel moment.
L’avis de la rédaction
Il est évident que l’intelligence artificielle, malgré ses avancées, est encore loin d’être parfaite. Ces incidents soulignent l’importance de la vigilance et de l’amélioration continue des systèmes d’IA pour assurer la diffusion d’informations précises et fiables. Par ailleurs, ils mettent également en lumière la responsabilité des géants du numérique dans la gestion de l’information.