L'équipe de l'Université de Chicago a mis au point Nightshade, un outil conçu pour protéger les idées et le contenu. Quels types de contenus pensez-vous que Nightshade pourrait particulièrement bien protéger?
- Nightshade, un nouvel outil pour protéger les créations artistiques contre l’IA.
- Créé par Ben Zhao de l’Université de Chicago, en cours de révision par des pairs.
- Il altère subtilement les pixels, perturbant l’apprentissage de l’IA.
- Il pourrait inciter les grandes entreprises d’IA à mieux respecter les droits d’auteur.
Naissance de Nightshade : une protection innovante pour les œuvres d’art
L’année 2023 a été marquée par des débats intenses sur l’impact de l’Intelligence Artificielle (IA) sur le travail des créatifs. Nightshade, un outil innovant conçu pour protéger les œuvres d’art contre l’appropriation par l’IA, est venu apporter une réponse à cette problématique, selon le MIT Technology Review.
Une création de Ben Zhao pour redonner du pouvoir aux artistes
Nightshade a été développé par Ben Zhao, professeur à l’Université de Chicago, et son équipe, dans le but de redonner aux artistes une part du pouvoir qu’ils ont perdu face à l’IA. L’outil, actuellement en cours d’examen par des pairs, a été testé sur des modèles de diffusion stables récents et sur une IA conçue par l’équipe de Zhao.
Le fonctionnement de Nightshade : une « poison » pour l’IA
Le principe de Nightshade repose sur l’altération subtile de pixels dans une œuvre d’art, ce qui perturbe le processus d’apprentissage de l’IA. Il peut ainsi induire l’IA en erreur, la poussant à interpréter une consigne pour un sac à main comme une demande de grille-pain, ou à afficher une image de chat en lieu et place d’un chien.
Nightshade et Glaze : deux outils complémentaires pour la protection des œuvres d’art
Nightshade est le successeur d’un outil appelé Glaze, également développé par Zhao et son équipe, qui altère également les pixels d’une œuvre d’art mais de manière à ce que l’IA perçoive l’image comme totalement différente de ce qu’elle est réellement.
Nous saluons l’initiative de Ben Zhao et son équipe. Nightshade pourrait être une véritable révolution dans la protection des œuvres d’art contre l’appropriation par l’IA. Cependant, il sera essentiel de veiller à ce que cet outil ne soit pas détourné à des fins malveillantes. Il convient donc de rester vigilant tout en applaudissant cette avancée technologique.