Pourquoi il ne faut surtout pas s’informer via les chatbots IA ?
Il semble qu'il manque du contenu en anglais à réécrire. Pourrais-tu fournir un paragraphe complet à transformer en français, s'il te plaît?
Tl;dr
- Les chatbots alimentés par l’IA inventent et mentent encore.
- ChatGPT fabrique des URL complètes, un phénomène appelé “hallucination” par l’industrie de l’IA.
- ChatGPT a donné des URL inventées qui mènent à des erreurs 404 lorsqu’on lui a demandé de fournir des liens vers des articles de presse.
- Les éditeurs de nouvelles continuent de nourrir OpenAI avec du contenu journalistique en échange d’argent.
Les chatbots IA : entre mensonges et “hallucinations”
Il est bon de rappeler périodiquement que les chatbots alimentés par l’intelligence artificielle continuent d’inventer et de mentir avec toute l’assurance d’un système GPS vous indiquant que le chemin le plus court pour rentrer chez vous passe par un lac.
ChatGPT : une expérience révélatrice
Ce rappel nous vient du Nieman Lab, qui a mené une expérience pour voir si ChatGPT fournirait des liens corrects vers des articles de publications de nouvelles pour lesquelles il paie des millions de dollars. Il s’avère que ChatGPT ne le fait pas. Au lieu de cela, il invente avec assurance des URL entières, un phénomène que l’industrie de l’IA appelle “halluciner“.
Une IA qui invente des URL
Andrew Deck du Nieman Lab a demandé au service de fournir des liens vers des articles exclusifs de haut profil publiés par 10 éditeurs avec lesquels OpenAI a conclu des accords valant des millions de dollars. Parmi eux, on retrouve l’Associated Press, The Wall Street Journal, le Financial Times, The Times (UK), Le Monde, El País, The Atlantic, The Verge, Vox, et Politico. En réponse, ChatGPT a craché des URL inventées qui ont conduit à des erreurs 404 parce qu’elles n’existaient tout simplement pas.
Les éditeurs de nouvelles nourrissent OpenAI
Nous ne savons pas quand cette nouvelle expérience sera disponible ou à quel point elle sera fiable. Malgré cela, les éditeurs de nouvelles continuent de nourrir OpenAI avec des années de journalisme en échange d’argent. Pendant ce temps, les entreprises d’IA dévorent le contenu publié par quiconque n’a pas signé ces pactes faustiens et l’utilisent pour entraîner leurs modèles.
L’avis de la rédaction
Il est évident que l’intelligence artificielle, bien que puissante, reste une technologie imparfaite. Les éditeurs de nouvelles doivent prendre conscience des risques et des limites de leur collaboration avec des entreprises comme OpenAI. Le défi est d’équilibrer l’innovation technologique et la préservation de l’intégrité journalistique.