Selon le Wall Street Journal, OpenAI dispose déjà d'un outil adéquat, mais hésite à le lancer. Pourquoi OpenAI serait-elle réticente à dévoiler cet outil ?
- OpenAI développe un outil de détection des textes générés par ChatGPT.
- L’outil utilise le marquage de texte, mais présente des limites face à certaines manipulations.
- Le déploiement de l’outil fait débat en raison de possibles impacts disproportionnés.
- OpenAI privilégie actuellement les outils d’authentification pour les contenus audiovisuels.
OpenAI et la détection des textes générés par IA
Selon une récente révélation du The Wall Street Journal, OpenAI aurait mis au point un outil capable de repérer les textes rédigés par ChatGPT avec une grande précision. L’entreprise a partagé quelques détails sur sa recherche en matière de marquage de texte, expliquant pourquoi elle n’a pas encore diffusé sa méthode de détection.
Le marquage de texte : une solution parmi d’autres
OpenAI a confirmé que le marquage de texte est l’une des nombreuses approches qu’elle a explorées dans le cadre de sa « recherche approfondie sur la provenance des textes ». Cette méthode de marquage se révèle très précise dans certaines situations, mais elle est moins efficace face à certaines formes de manipulation, comme l’utilisation de systèmes de traduction, la reformulation avec un autre modèle génératif, ou l’insertion d’un caractère spécial entre chaque mot suivi de sa suppression.
Une diffusion en suspend
Cependant, la diffusion de cet outil fait l’objet d’un débat, car il pourrait avoir un impact disproportionné sur certains groupes. Par exemple, il pourrait stigmatiser l’utilisation de l’IA comme outil d’écriture utile pour les personnes dont l’anglais n’est pas la langue maternelle. Face à ces risques, OpenAI a préféré se concentrer sur le développement d’outils d’authentification pour le contenu audiovisuel.
L’avis de la rédaction
Dans le contexte actuel où l’IA occupe une place croissante dans notre quotidien, la question de la détection des textes générés par l’IA est cruciale. OpenAI, par sa démarche prudente, souligne le défi complexe d’équilibrer l’innovation technologique et les impacts sociaux. Il est essentiel de continuer à débattre de ces questions pour garantir une utilisation éthique et responsable de l’IA.