Google déploie les filigranes numériques sur les vidéos et textes générés par l’IA : une révolution à découvrir !
Les vidéos produites par le nouveau modèle Veo seront compatibles avec SynthID. Cela ne pique-t-il pas votre curiosité de découvrir comment cette technologie pourrait changer notre manière de regarder des vidéos ?
Tl;dr
- Google lance ses nouveaux outils de génération vidéo avec transparence.
- Le système SynthID de Google appose des filigranes numériques sur les contenus créés par IA.
- Des entreprises comme TikTok et Meta développent également des outils de détection similaires.
- Des questions demeurent sur l’efficacité des filigranes numériques pour contrer les contenus trompeurs créés par l’IA.
La transparence au cœur des nouvelles technologies de Google
Google a annoncé le déploiement de ses derniers outils de génération vidéo, avec un accent particulier sur la transparence. En effet, la firme de Mountain View a instauré un système de filigranes numériques, baptisé SynthID, pour identifier l’origine de ses clips générés par IA de plus en plus réalistes.
Le rôle de SynthID : un garant de l’authenticité
SynthID a été introduit l’année dernière pour le marquage des images générées par IA. Ce système technique ingénieux permet d’insérer des filigranes imperceptibles dans le contenu créé par l’IA, afin que les outils de détection puissent reconnaître que le contenu a été généré par cette technologie. Avec le dernier modèle de génération vidéo de Google, Veo, capable de créer des clips plus longs et de meilleure résolution, il est primordial de pouvoir retracer la source de ces contenus.
Une mesure préventive contre la désinformation
Face à l’évolution rapide des modèles d’IA génératifs, de plus en plus d’entreprises adoptent le marquage numérique pour prévenir la propagation de fausses informations. Des plateformes comme TikTok et Meta ont également annoncé leur volonté d’intégrer des outils de détection similaires et d’étiqueter davantage de contenu généré par IA. Cependant, des questions subsistent quant à l’efficacité des filigranes numériques pour contrer les contenus trompeurs créés par l’IA. En effet, des chercheurs ont montré que les filigranes peuvent être facilement contournés.
L’avis de la rédaction
La mesure prise par Google, bien qu’encore perfectible, constitue une avancée significative vers la transparence et la responsabilité dans le domaine de l’IA. Elle incite à un usage éthique de cette technologie, qui, si elle est mal utilisée, pourrait alimenter une nouvelle vague de désinformation. Il est impératif d’encourager et de soutenir de telles initiatives pour garantir une cybersphère plus sûre et fiable.