Silencieuse affaire chez Microsoft : un ingénieur muselé après avoir émis des doutes sur DALL-E 3 ?
Il affirme que le générateur d'images est capable de produire des images violentes et perturbantes. Ces images pourraient-elles causer un préjudice potentiel ?
Tl;dr
- Un responsable Microsoft dénonce des failles de sécurité dans OpenAI’s DALL-E 3.
- Shane Jones affirme que ces failles pourraient permettre de générer des images violentes ou explicites.
- Malgré les tentatives de Jones pour alerter le public, la direction de Microsoft l’a bloqué.
- Jones s’est ensuite adressé aux sénateurs américains pour faire part de ses inquiétudes.
OpenAI DALL-E 3 : Un Responsable Microsoft Dénonce des Failles de Sécurité
Selon un haut responsable de Microsoft, Shane Jones, le programme de génération d’images de OpenAI, DALL-E 3, présenterait des failles de sécurité critiques. D’après lui, ces vulnérabilités pourraient être exploitées pour générer des images violentes ou explicites, à l’instar de celles qui ont récemment ciblé la chanteuse Taylor Swift.
Une Tentative de Divulgation Bloquée
Jones a tenté d’alerter le public sur ces failles potentielles. Cependant, selon GeekWire, l’équipe juridique de Microsoft a bloqué ses efforts. Ce dernier, se décrivant comme un lanceur d’alerte, a donc décidé de porter son message jusqu’à Capitol Hill.
Des Images Violentes Potentielles
Dans une lettre adressée à plusieurs représentants politiques américains, Jones écrit : “J’en suis venu à la conclusion que DALL·E 3 représentait un risque pour la sécurité publique et devrait être retiré de l’usage public jusqu’à ce qu’OpenAI puisse traiter les risques associés à ce modèle”. Il affirme avoir découvert une faille lui permettant de contourner les garde-fous de sécurité de DALL-E 3, qui pourrait permettre la génération d’“images violentes et perturbantes”.
Jones a ensuite tenté de rendre publique sa cause via un post sur LinkedIn, rapidement supprimé à la demande de Microsoft. Il déclare n’avoir jamais reçu d’explication de la part de l’équipe juridique de l’entreprise.
Pour une Responsabilité des Entreprises
Jones appelle à la responsabilité des entreprises dans la sécurité de leurs produits et leur devoir de divulgation des risques connus au public. Il suggère que le gouvernement américain mette en place un système de signalement et de suivi des vulnérabilités spécifiques à l’IA.
L’avis de la rédaction
Il est essentiel de prendre au sérieux les allégations de Shane Jones. Si elles sont avérées, ces vulnérabilités pourraient avoir des conséquences dévastatrices. Les entreprises ont le devoir de transparence et de protection du public. De plus, il est crucial que les lanceurs d’alerte puissent s’exprimer librement, sans crainte de représailles. Enfin, l’idée de Jones d’un système gouvernemental de suivi des vulnérabilités de l’IA mérite une réflexion approfondie.